📱 Cortiq: Local AI Models - формат CMF Mobile.
Cortiq превращает ваш телефон в полностью локальную рабочую станцию для ИИ. Общайтесь с крупными языковыми моделями, которые работают исключительно на вашем устройстве — без облака, без учетной записи, без сбора данных. Ваши разговоры никогда не покидают ваш телефон.
⬇️ https://play.google.com/store/apps/details?id=ai.cortiq.cmf_mobile
или https://github.com/infosave2007/cmfmobile/releases/tag/v1.3.0
🔗 https://github.com/infosave2007/cmfmobile/tree/v1.3.0
🔗 https://huggingface.co/spaces/infosave/cortiq-mobile
📖 Статья: https://habr.com/ru/articles/1089704/ - тут подробно!
#CortiqLocalAIModels #Cortiq #CMF #CMFengine #iPhone #Android #APP #LocalAi #AiLocal
Cortiq превращает ваш телефон в полностью локальную рабочую станцию для ИИ. Общайтесь с крупными языковыми моделями, которые работают исключительно на вашем устройстве — без облака, без учетной записи, без сбора данных. Ваши разговоры никогда не покидают ваш телефон.
ПОЧЕМУ CORTIQ:
• 100% конфиденциальность — модели работают на устройстве, полностью в автономном режиме
• Бесплатно и с открытым исходным кодом, без подписок, без отслеживания
• Работает на основе CMF (Cortiq Model Format), эффективного формата для мобильного ИИ
ЧАТ:
• Потоковые ответы со статистикой по каждому сообщению: задержка, токены, токены/сек
• Постоянные темы чата — каждая беседа сохраняет свой контекст
• Прикрепление документов (txt, md, code, json и многое другое) к вашему запросу
• Рендеринг Markdown, копирование, перегенерация, остановка
• Режим «Отключение мышления» — модели, работающие с логическими рассуждениями, отвечают напрямую
БИБЛИОТЕКА МОДЕЛЕЙ:
• Локальная библиотека моделей с полными метаданными: архитектура, квантование, размер контекста
• Проверка соответствия оперативной памяти перед загрузкой — предупреждение вместо сбоя
• Загрузка и выгрузка одним касанием для освобождения памяти и батареи
• Импорт файлов .cmf из памяти устройства
КОНВЕРТЕР Hugging Face:
• Поиск по Hugging Face Hub: выберите модель и квантизацию, наблюдайте за процессом в реальном времени.
• Многопоточное преобразование моделей сафентзоров в CMF на устройстве.
• Квантизация от полного F16 до тернарного (~2-битного) для минимального потребления ресурсов.
• Загрузка моделей, адаптированных для мобильных устройств, одним касанием.
• Устойчивая загрузка: автоматическая повторная попытка и возобновление после разрыва сети.
ЛОКАЛЬНЫЙ СЕРВЕР ИИ:
• Передача загруженных моделей в вашу сеть через API, совместимый с OpenAI.
• Использование вашего телефона в качестве бэкенда ИИ для ноутбуков и других устройств.
• QR-код для мгновенного установления соединения.
Cortiq является частью открытой экосистемы CMF.
⬇️ https://play.google.com/store/apps/details?id=ai.cortiq.cmf_mobile
или https://github.com/infosave2007/cmfmobile/releases/tag/v1.3.0
🔗 https://github.com/infosave2007/cmfmobile/tree/v1.3.0
🔗 https://huggingface.co/spaces/infosave/cortiq-mobile
📖 Статья: https://habr.com/ru/articles/1089704/ - тут подробно!
#CortiqLocalAIModels #Cortiq #CMF #CMFengine #iPhone #Android #APP #LocalAi #AiLocal