Спрашивали как-то в комментариях:
У Ollama появился официальный десктопный апп для macOS и Windows.
Ставите приложение, выбираете модель (Llama, Mistral, Gemma, Qwen, DeepSeek и др.) и можно:
- кидать в чат PDF, код или текст для саммаризации и анализа;
- загружать изображения для мультимодальных моделей;
- настраивать контекст
Все работает локально, офлайн без связи с облаком, с максимальным контролем над данными.
Для Linux GUI пока нет, но на Mac и Windows это, пожалуй, самый простой способ запустить локально LLM за пару минут.
Скачиваем тут
#llm@TochkiNadAI
как легко запускать локально модели без танцев с бубном?
У Ollama появился официальный десктопный апп для macOS и Windows.
Ставите приложение, выбираете модель (Llama, Mistral, Gemma, Qwen, DeepSeek и др.) и можно:
- кидать в чат PDF, код или текст для саммаризации и анализа;
- загружать изображения для мультимодальных моделей;
- настраивать контекст
Все работает локально, офлайн без связи с облаком, с максимальным контролем над данными.
Для Linux GUI пока нет, но на Mac и Windows это, пожалуй, самый простой способ запустить локально LLM за пару минут.
Скачиваем тут
#llm@TochkiNadAI