Local Ai

Cloudflare выпустили альтернативу Jev — модели Clef и Clef-Flash
Обе модели заточены под принятие решений: выбирают подходящий вариант и выдают вероятности. Пригодятся для сортировки тикетов, определения приоритета задач или оценки серьёзности проблемы.

Clef построена на Qwen3.8-27B, Clef-Flash — на Qwen3.5-9B. Основная модель обгоняет Jev по нескольким параметрам: контекст в два раза больше (64K против 32K), в тестах побеждает в трёх из четырёх сценариев, отвечает в разы быстрее. Бонусом умеет работать с изображениями.

Обе модели доступны на Hugging Face под лицензией Apache 2.0 — можно запускать локально.

LingvoLoc — это приложение для Windows, которое переводит с помощью выбранной вами модели. Он работает как с локальными моделями — полностью приватными, автономными, без учетной записи или подписки, — так и с любым облачным ИИ-провайдером:
OpenAI
Anthropic
Google Gemini
DeepL
DeepSeek
OpenRouter
xAI Grok
любой конечной точкой, совместимой с OpenAI
подписками на ChatGPT Plus/Pro и SuperGrok (вход через браузер, без API-ключа)
При использовании локальной модели все — текст, документы, словарные запросы — обрабатывается на вашем компьютере, и ничего не отправляется в интернет.

Что может LingvoLoc
- Перевести текст. Введите или вставьте текст, выберите языки (автоматическое определение источника для 12 языков) и получите перевод с указанием времени отклика, точного использования токена провайдера и скорости. Результат копируется в буфер обмена.
- Перевести весь документ. Перетащите файлы TXT, DOCX, EPUB, FB2 и PDF в окно. Перевод книги продолжается в фоновом режиме, сохраняется при перезапуске и может быть приостановлен, возобновлен или отменен. Можно переводить несколько файлов подряд.
- Переводите книги в формате PDF, сохраняя их структуру. Заголовки, колонки, таблицы, оглавления, цветные панели, списки и изображения остаются на своих местах, меняется только текст (подробнее ниже).
- Перевод из буфера обмена. Нажмите Ctrl+Shift+T в любом месте Windows, и в небольшом окне отобразится перевод скопированного текста.
- Перевод в браузере. Расширение для Chromium переводит выделенный текст на любой веб-странице через настольное приложение.
- Ищите слова в собственных словарях. Укажите LingvoLoc папку со словарями StarDict; статьи отображаются в виде отдельных цветных карточек с произношением, примерами и аудио.
- Используйте предпочитаемую модель — локальную или облачную. LingvoLoc запускает .gguf моделей (TranslateGemma, Gemma 3, Hunyuan-MT, Qwen и другие) через собственный встроенный llama.cpp или подключается к LM Studio. Или в один клик переключается на облачного провайдера: OpenAI, Anthropic, Gemini, DeepL, DeepSeek, OpenRouter, xAI Grok или любую конечную точку, совместимую с OpenAI.
- Используйте свою подписку. Авторизуйтесь с помощью своей учетной записи ChatGPT Plus/Pro или SuperGrok в браузере и переводите с помощью моделей, включенных в ваш тарифный план, без ключа API (см. раздел «Облачные провайдеры и подписки» ниже).
- Оставайтесь в фоновом режиме. При закрытии окна LingvoLoc в трее; приложение может запускаться вместе с Windows.

Новый взгляд на Local LLM.
Выберите совместимую модель для использования на устройстве, общайтесь о фотографиях и файлах и используйте функцию Live Voice. Общайтесь в автономном режиме после настройки — регистрация не требуется.
Local LLM использует языковые модели на вашем iPhone без регистрации и облачного бэкенда для ваших чатов.
Общайтесь, задавайте вопросы о фотографиях, работайте с документами и используйте функцию Live Voice.
Доступные функции зависят от выбранной модели.
Загрузите модели из каталога или используйте встроенную модель Apple на поддерживаемых устройствах, если она доступна.
Для моделей Core AI требуется iOS 27 или более поздняя версия; другие поддерживаемые модели доступны и на более старых системах.
Выводы и история переписки сохраняются на вашем устройстве. Загрузка моделей, каталога и изображений для моделей осуществляется через сеть.
Опциональный веб-поиск отправляет запрос, сформированный на основе вашего сообщения, в DuckDuckGo и может считывать информацию с веб-сайтов с результатами поиска.
Для запросов о погоде используется геокодирование Apple и сервис WeatherKit для определения города, без запроса данных о местоположении вашего устройства.
При голосовом вводе предпочтение отдается распознаванию на устройстве. Если оно недоступно или не работает, онлайн-сервис распознавания речи Apple может обрабатывать аудио, если включено сетевое распознавание речи. Эту функцию можно отключить в разделе «Конфиденциальность».
Требуется iOS 17 или более поздняя версия. Доступность моделей зависит от вашего устройства, операционной системы, объема доступной памяти и хранилища. Для установки загружаемых моделей требуется подключение к Интернету; поддерживаемый автономный чат работает после настройки.

ПОЧЕМУ CORTIQ:
• 100% конфиденциальность — модели работают на устройстве, полностью в автономном режиме
• Бесплатно и с открытым исходным кодом, без подписок, без отслеживания
• Работает на основе CMF (Cortiq Model Format), эффективного формата для мобильного ИИ

ЧАТ:
• Потоковые ответы со статистикой по каждому сообщению: задержка, токены, токены/сек
• Постоянные темы чата — каждая беседа сохраняет свой контекст
• Прикрепление документов (txt, md, code, json и многое другое) к вашему запросу
• Рендеринг Markdown, копирование, перегенерация, остановка
• Режим «Отключение мышления» — модели, работающие с логическими рассуждениями, отвечают напрямую

БИБЛИОТЕКА МОДЕЛЕЙ:
• Локальная библиотека моделей с полными метаданными: архитектура, квантование, размер контекста
• Проверка соответствия оперативной памяти перед загрузкой — предупреждение вместо сбоя
• Загрузка и выгрузка одним касанием для освобождения памяти и батареи
• Импорт файлов .cmf из памяти устройства

КОНВЕРТЕР Hugging Face:
• Поиск по Hugging Face Hub: выберите модель и квантизацию, наблюдайте за процессом в реальном времени.
• Многопоточное преобразование моделей сафентзоров в CMF на устройстве.
• Квантизация от полного F16 до тернарного (~2-битного) для минимального потребления ресурсов.
• Загрузка моделей, адаптированных для мобильных устройств, одним касанием.
• Устойчивая загрузка: автоматическая повторная попытка и возобновление после разрыва сети.

ЛОКАЛЬНЫЙ СЕРВЕР ИИ:
• Передача загруженных моделей в вашу сеть через API, совместимый с OpenAI.
• Использование вашего телефона в качестве бэкенда ИИ для ноутбуков и других устройств.
• QR-код для мгновенного установления соединения.

Cortiq является частью открытой экосистемы CMF.

→ Ollama
→ LM Studio
→ Jan
→ GPT4All
→ TextGen WebUI
→ vLLM
→ Llama.cpp
→ Open WebUI
→ AnythingLLM
→ Haystack
→ PrivateGPT
→ ComfyUI
→ Whisper.cpp
Run AI locally. More privacy. More control.

pplx-decider-v1-27b — это модель принятия решений, доработанная на основе Qwen3.8-27B.
Точность в 11 бенчмарках. Результаты pplx-decider-v1-27b были измерены с помощью Perplexity API. (Жирным выделены лучшие результаты в каждой строке.)