Отличная русская модель для РП!
Пока что, это моя любимая модель из всех. Не помню что бы она мне английские слова подкидывала в текст и описание карточки персонажа хорошо воспринимает, даже если там несколько сразу персонажей указаны. А ещё она хороша (на мой личный взгляд) в написании истории и развитии сюжета. Я прямо таки чувствую атмосферу происходящего и характер персонажей когда использую данную модель, в отличии например от ChatWaifu_12B_v2.0 (которая к тому же ещё и любит гадить английскими словами во время генерации текста)
На rtx 3060 12gb спокойно запускаю SAINEMO-reMIX.Q6_K.gguf и имею 20-30 токенов в секунду.
Думаю, можно уже смело говорить о том, что даже на относительно бюджетных, современных игровых видеокартах, можно запускать аналоги character.ai, которые местами даже лучше будут.
Пока что, это моя любимая модель из всех.
За это время нашлась ли модель получше для РП?