Qwen 3.8 27B NVFP4 (Ninfer) тоже может в геймдев
Не без косяков конечно.
🔥 Запускал я это в DeepSeek Harness, который обработал 27,9 млн токенов. Сделал одну правку. Молотил около часа.
• 26,6 млн - контекст из KV/prefix cache
• 980 тыс. - новый вход
• 290 тыс. - output модели
• Cache Hit - 96%
• скорость генерации - около 125 tok/s
Промт на создание этого шедевра будет в комментариях.
MrGips • Про LLM / НАШ ЧАТ
Не без косяков конечно.
🔥 Запускал я это в DeepSeek Harness, который обработал 27,9 млн токенов. Сделал одну правку. Молотил около часа.
• 26,6 млн - контекст из KV/prefix cache
• 980 тыс. - новый вход
• 290 тыс. - output модели
• Cache Hit - 96%
• скорость генерации - около 125 tok/s
Промт на создание этого шедевра будет в комментариях.
MrGips • Про LLM / НАШ ЧАТ