>>> Восстанови блок памяти ds:0x7e9288d9
ВСЕГДА НАЙДЕТСЯ КИТАЕЦ КОТОРЫЙ ДЕЛАЕТ ЭТО ЛУЧШЕ
Нихао, гайз!
20 января китайская лаборатория DeepSeek выпустила новый хит (нет, не диз на Tailor Swift) — первую бесплатную рассуждающую модель (да говорю же, речь не про Tailor Swift) DeepSeek-R1 😱
Это прямой конкурент o1 от закрытой (или открытой, хз) OpenAI, только бесплатный (с лимитом 50 запросов/день для R1 версии), т.е. вам не придется платить 200$ за подписку OpenAI.
Залетаем по ссылке (нужна изи регистрация, без VPN, 5000 фрибетов):
➡️➡️➡️ https://chat.deepseek.com/
➡️тесты
Какие тесты проводили (на изображении):
☝️ AIME: престижный американский вступительный экзамен по математике для олимпиад и поступления в университеты (ты сам попробуй реши)
☝️Codeforces: сайт для любителей спортивного программирования
☝️GPQA Diamond: сложный бенчмарк для оценки рассуждений ИИ
☝️MATH-500: бенчмарк по математики для ИИ
☝️MMLU: проверяет общие знания модели по истории, естественным наукам и обществознанию
☝️SWE-bench Verified: бенчмарк по разработке для ИИ
Какие модели участвовали (на изображении):
☝️R1 на 671B миллиард параметров
☝️o1 на 1,76T триллионов параметров (но не все при деле, обычно 280B)
☝️R1 на 32B (для локальной ollama самое то, только видюху у родителей выпроси получше)
☝️o1-mini 100B (o1-preview крупнее, около 300B, но это всё слухи, тк не расрываются данные)
☝️V3 на 671B (как и у o1, не все при деле, только 37B)
➡️V3 vs R1
Основная модель DeepSeek-V3, которая работает за миску риса под капотом (по ссылке выше), более универсальна и подходит для задач генерации статей (но не этой), диалогов, для работы с длинными текстами. Короче, чтобы не писать на гаражах белиберду с ошибками — лучше пользуйтесь технологиями.
А вот DeepSeek-R1 (включается кнопкой DeepThink) может рассуждать (сначала рассуждает, а потом пишет саммари) и решать более сложные задачи в программировании, математике, в научных задачах и длинных цепочках логики (CoT).
➡️личный опыт
Я сам решил перейти с локальной модели qwen2.5-coder c 14B миллиардами параметров (9gb) в ollama на DeepSeek (хоть их модели в свободном доступе), тк больше система не тянет, а качество ответов в web-версии, по ощущениям, лучше и быстрее.
➡️душнотека
Обычно, чем больше параметров у модели, тем лучшие результаты она показывает, но зависимость между размерами и качеством нелинейны. Важнее — данные обучения и архитектура модели. А вот с помощью дистиллизации (крупные модели, как опытные профессора, могут "учить" мелкие модели через дистилляцию, но ученик всегда будет немного отставать от учителя, даже если использует его знания), метода смешанной точности (FP16, вместо FP32), квантизации (уменьшения точности чисел весов) и других способов, можно "подсушить модель", чтобы комфортно запускать локально с минимальной потерей в качестве.
➡️заключение
В общем, пользуйтесь, но не забывайте, если продукт бесплатный, значит продукт — это вы.
И не вздумайте спрашивать у нее, что произошло на площади Тяньаньмэнь (1989).
@datum_verde 🤔 орден, учитывающий плюсы и минусы и Запада и Востока
ВСЕГДА НАЙДЕТСЯ КИТАЕЦ КОТОРЫЙ ДЕЛАЕТ ЭТО ЛУЧШЕ
Нихао, гайз!
20 января китайская лаборатория DeepSeek выпустила новый хит (нет, не диз на Tailor Swift) — первую бесплатную рассуждающую модель (да говорю же, речь не про Tailor Swift) DeepSeek-R1 😱
Это прямой конкурент o1 от закрытой (или открытой, хз) OpenAI, только бесплатный (с лимитом 50 запросов/день для R1 версии), т.е. вам не придется платить 200$ за подписку OpenAI.
Залетаем по ссылке (нужна изи регистрация, без VPN, 5000 фрибетов):
➡️➡️➡️ https://chat.deepseek.com/
➡️тесты
Какие тесты проводили (на изображении):
☝️ AIME: престижный американский вступительный экзамен по математике для олимпиад и поступления в университеты (ты сам попробуй реши)
☝️Codeforces: сайт для любителей спортивного программирования
☝️GPQA Diamond: сложный бенчмарк для оценки рассуждений ИИ
☝️MATH-500: бенчмарк по математики для ИИ
☝️MMLU: проверяет общие знания модели по истории, естественным наукам и обществознанию
☝️SWE-bench Verified: бенчмарк по разработке для ИИ
Какие модели участвовали (на изображении):
☝️R1 на 671B миллиард параметров
☝️o1 на 1,76T триллионов параметров (но не все при деле, обычно 280B)
☝️R1 на 32B (для локальной ollama самое то, только видюху у родителей выпроси получше)
☝️o1-mini 100B (o1-preview крупнее, около 300B, но это всё слухи, тк не расрываются данные)
☝️V3 на 671B (как и у o1, не все при деле, только 37B)
➡️V3 vs R1
Основная модель DeepSeek-V3, которая работает за миску риса под капотом (по ссылке выше), более универсальна и подходит для задач генерации статей (но не этой), диалогов, для работы с длинными текстами. Короче, чтобы не писать на гаражах белиберду с ошибками — лучше пользуйтесь технологиями.
А вот DeepSeek-R1 (включается кнопкой DeepThink) может рассуждать (сначала рассуждает, а потом пишет саммари) и решать более сложные задачи в программировании, математике, в научных задачах и длинных цепочках логики (CoT).
➡️личный опыт
Я сам решил перейти с локальной модели qwen2.5-coder c 14B миллиардами параметров (9gb) в ollama на DeepSeek (хоть их модели в свободном доступе), тк больше система не тянет, а качество ответов в web-версии, по ощущениям, лучше и быстрее.
➡️душнотека
Обычно, чем больше параметров у модели, тем лучшие результаты она показывает, но зависимость между размерами и качеством нелинейны. Важнее — данные обучения и архитектура модели. А вот с помощью дистиллизации (крупные модели, как опытные профессора, могут "учить" мелкие модели через дистилляцию, но ученик всегда будет немного отставать от учителя, даже если использует его знания), метода смешанной точности (FP16, вместо FP32), квантизации (уменьшения точности чисел весов) и других способов, можно "подсушить модель", чтобы комфортно запускать локально с минимальной потерей в качестве.
➡️заключение
В общем, пользуйтесь, но не забывайте, если продукт бесплатный, значит продукт — это вы.
И не вздумайте спрашивать у нее, что произошло на площади Тяньаньмэнь (1989).
@datum_verde 🤔 орден, учитывающий плюсы и минусы и Запада и Востока