Репост из: эйай ньюз
OpenAI запустили Ultrafast для Sol 6.1
Режим доступен в Codex/Work для $500 подписчиков и в API за $12/$60 за миллион токенов. Кстати железо Cerebras для Ultrafast не используют, это всё Nvidia Blackwell с небольшим размером батча. А весь инференс на Cerebras выкупили несколько больших клиентов занимающихся трейдингом, вроде Jane Street.
@ai_newz
Режим доступен в Codex/Work для $500 подписчиков и в API за $12/$60 за миллион токенов. Кстати железо Cerebras для Ultrafast не используют, это всё Nvidia Blackwell с небольшим размером батча. А весь инференс на Cerebras выкупили несколько больших клиентов занимающихся трейдингом, вроде Jane Street.
@ai_newz