>>> Восстанови блок памяти ds:0x55c699e2
Ну, здравствуйте, здравствуйте, гайз.
Je vois que je vous fais peur, садитесь и слушайте.
Вчера, в ответ на успех DeepSeek, OpenAI выпустил новую модель o3-mini. Особо говорить не о чем, логичный шаг: чуть лучше, чуть быстрее. Основной базовый переход для всех — с GPT-4o mini на o3-mini.
Если не знали, OpenAI классифициурет своих пользователей на 5 типов:
🟢Free (0 $USD)
🟢Plus (20 $USD / месяц)
🟢Pro (200 $USD / месяц)
🟢Team (25 $USD / пользователь)
🟢Enterprice (договоримся)
Для Free запросы к o3-mini будут бесплатны, но их качество окажется, ооочень вероятно, уровня o3-mini-low (на графиках анонса сами можете ознакомиться с качеством).
А вот для Pro обещают неограниченный доступ к версиям o3-mini (medium, видимо) и o3-mini-high (интересна с точки зрения написания кода). Протестировать ее не удалось из-за *инклюзивной* политики доступа к ChatGPT, но на том же Reddit встречаются упоминания о точечных успехах. И неудачах? И неудачах...😽
Вспомним, что ранее Sam CtrlAltDelman (глава OpenAI) уже каялся, что стоимость подписки в 200 $USD выбирал рандомно, что в итоге сыграло с ним злую шутку: думали, что пользователи будут платить 200 $USD и делать 1-2 тяжелых запроса, а в итоге, те, кто платил, доили(-ят) "кошерную" корову по полной. Кстати, возможно, всё это бесконечное мракобесие многообразие платных чат-ботов завязано на Pro.
Интересно еще то, что у o3-mini контекстное окно размером 200к токенов, а у предыдущей модели o1-mini было 128к, как и у DeepSeek R1.
Чтобы не запутаться в терминах:
Так вот, контекстное окно у o3-mini 200к токенов. Для ориентира, у оригинала "Война и мир":
🟠на русском ~587к слов ➡️ ~793к токенов GPT-4
🟠англ. перевод Констанс Гарнетт: ~561к слов ➡️ ~673к токенов GPT-4
Считайте, контекстное окно размером в один том (из четырех). Интересно.
➡️Qwen Max
А еще, пока все были заняты наблюдением за битвой между Годзиллой и Конгом, я чуть не пропустил выход модели Qwen2.5-Max от Alibaba.
Ранее я упоминал, что использовал локальные версии qwen2.5-coder:14b и qwen2.5-coder:32b через ollama, но с появлением DeepSeek R1 это занятие стало напоминать попытку привлечь внимание воробьев фигами.
Основная особенность этой модели, что она была обучена на 20 триллионах (не биллионах, почитайте) параметрах и имеет контекстное окно в 1 млрд токенов, а вы уже знаете, что это много.
По бенчмаркам она чуть лучше DeepSeek V3, но не лучше R1. Да и по опыту использования, качество ответов мне не понравилось. Часто зависает, обрывается ответ, китайские иероглифы выскакивают, но я к ней еще присмотрюсь.
Пока что мой рабочий процесс состоит из Perplexity, DeepSeek и бедолага Qwen. Работаем, гайз.
@datum_verde 🥵 орден, уставший от постоянных дофаминовых пощечин в ожидании наступления AGI
Ну, здравствуйте, здравствуйте, гайз.
Je vois que je vous fais peur, садитесь и слушайте.
Вчера, в ответ на успех DeepSeek, OpenAI выпустил новую модель o3-mini. Особо говорить не о чем, логичный шаг: чуть лучше, чуть быстрее. Основной базовый переход для всех — с GPT-4o mini на o3-mini.
Если не знали, OpenAI классифициурет своих пользователей на 5 типов:
🟢Free (0 $USD)
🟢Plus (20 $USD / месяц)
🟢Pro (200 $USD / месяц)
🟢Team (25 $USD / пользователь)
🟢Enterprice (договоримся)
Для Free запросы к o3-mini будут бесплатны, но их качество окажется, ооочень вероятно, уровня o3-mini-low (на графиках анонса сами можете ознакомиться с качеством).
А вот для Pro обещают неограниченный доступ к версиям o3-mini (medium, видимо) и o3-mini-high (интересна с точки зрения написания кода). Протестировать ее не удалось из-за *инклюзивной* политики доступа к ChatGPT, но на том же Reddit встречаются упоминания о точечных успехах. И неудачах? И неудачах...😽
Вспомним, что ранее Sam CtrlAltDelman (глава OpenAI) уже каялся, что стоимость подписки в 200 $USD выбирал рандомно, что в итоге сыграло с ним злую шутку: думали, что пользователи будут платить 200 $USD и делать 1-2 тяжелых запроса, а в итоге, те, кто платил, доили(-ят) "кошерную" корову по полной. Кстати, возможно, всё это бесконечное мракобесие многообразие платных чат-ботов завязано на Pro.
Интересно еще то, что у o3-mini контекстное окно размером 200к токенов, а у предыдущей модели o1-mini было 128к, как и у DeepSeek R1.
Чтобы не запутаться в терминах:
Токен — минимальная единица текста, на которую модель разбивает входные данные. Это может быть: целое слово («привет»), часть слова («при» + «вет»), символ (в старых моделях), специальные символы (знаки препинания, эмодзи).
Пример токенизации:
- На русском: фраза «Как дела?» разбивается на токены: ['Как', ' дела', '?'].
- На английском: «How are you?» — ['How', ' are', ' you', '?'].
Контекстное окно — максимальное количество токенов, которое модель AI может обработать за один запрос (включая ваш запрос и ответ модели).
Параметры модели — внутренние настройки (веса), которые регулируются во время обучения. Определяют "интеллект" модели: способность понимать контекст, генерировать логичные ответы, решать сложные задачи.
Контекстное окно можно увеличить через архитектурные изменения модели, а параметры — нет, только переобучив.
Так вот, контекстное окно у o3-mini 200к токенов. Для ориентира, у оригинала "Война и мир":
🟠на русском ~587к слов ➡️ ~793к токенов GPT-4
🟠англ. перевод Констанс Гарнетт: ~561к слов ➡️ ~673к токенов GPT-4
Считайте, контекстное окно размером в один том (из четырех). Интересно.
➡️Qwen Max
А еще, пока все были заняты наблюдением за битвой между Годзиллой и Конгом, я чуть не пропустил выход модели Qwen2.5-Max от Alibaba.
Ранее я упоминал, что использовал локальные версии qwen2.5-coder:14b и qwen2.5-coder:32b через ollama, но с появлением DeepSeek R1 это занятие стало напоминать попытку привлечь внимание воробьев фигами.
Основная особенность этой модели, что она была обучена на 20 триллионах (не биллионах, почитайте) параметрах и имеет контекстное окно в 1 млрд токенов, а вы уже знаете, что это много.
По бенчмаркам она чуть лучше DeepSeek V3, но не лучше R1. Да и по опыту использования, качество ответов мне не понравилось. Часто зависает, обрывается ответ, китайские иероглифы выскакивают, но я к ней еще присмотрюсь.
Пока что мой рабочий процесс состоит из Perplexity, DeepSeek и бедолага Qwen. Работаем, гайз.
@datum_verde 🥵 орден, уставший от постоянных дофаминовых пощечин в ожидании наступления AGI