Для сравнения с Open Assistant есть другой опенсорс чат-бот, которым занимаются Stable Horde (они же Horde AI). Это люди, которые объединяют мощности домашних GPU в глобальную распределенную сеть, чтобы те, у кого слабая видюха или вовсе телефон, могли тоже генерить картинки или текст. Даже можно забустить Photoshop через плагин.
Так вот, для генерации текста есть:
* KoboldAI Client - локальная установка, особо тех. знаний не надо
* KoboldAI Lite - доступ через веб-интерфейс
* Agnaistic - альтернативный веб-интерфейс
Я попробовал Lite и Agnaistic. Первый мне не понравился совсем ибо там ответы лепятся воедино к твоим вопросам и добавляется многое, чего ты вообще не спрашивал. Похоже, что народ пользуется функцией редактирования ответов, и в итоге тебе тебе попадается чей-то исправленный вариант с контекстом, оставленным по ошибке. Однако это в принципе хорошая фича (для RLHF) плюс можно выбрать разные модели для генерации ответов, в числе которых Llama/Aplaca.
А вот Agnaistic мне понравился намного больше. На тот же вопрос про "Во все тяжкие" ответ был кратким и поделу, а даты и количество сезонов модель подсказала сразу без ошибок. Да, кличку Хайзенберг она попутала с Mr.Chips, но в целом результат хороший. Кодить пока не умеет, либо нужно делать каким-то особым способом запрос.
Из ништяков Agnaistic:
* Не нужно логиниться, данные о чатах не хранятся
* Анонимайзер — можно скрыть имена и даты в чате (для скриншотов я так понял)
* Можно установить локально
* Text-2-Image силами Stable Diffusion, NovelAI, или Horde AI
* Подключение к OpenAI, Claude, Kobold, Novel, AI Horde, и LuminAI через API
* Можно выбирать версии OpenAI (GPT-4, Turbo, DaVinci) и Claude
* Можно пригласить несколько человек в чат
К слову проекты Stable Horde уже сгенерировали: 46,3 млн изображений (574,3 Терапикселей) и 2,9 млн текстов (271,5 мегатокенов). Так что, дело идёт и проект набирает обороты. Уже есть бот для телеги, плагины для GIMP, Unreal Engine, и Blender.
Сайт Stable Horde (там все ссылки) + гитхаб
Agnaistic + гитхаб
Так вот, для генерации текста есть:
* KoboldAI Client - локальная установка, особо тех. знаний не надо
* KoboldAI Lite - доступ через веб-интерфейс
* Agnaistic - альтернативный веб-интерфейс
Я попробовал Lite и Agnaistic. Первый мне не понравился совсем ибо там ответы лепятся воедино к твоим вопросам и добавляется многое, чего ты вообще не спрашивал. Похоже, что народ пользуется функцией редактирования ответов, и в итоге тебе тебе попадается чей-то исправленный вариант с контекстом, оставленным по ошибке. Однако это в принципе хорошая фича (для RLHF) плюс можно выбрать разные модели для генерации ответов, в числе которых Llama/Aplaca.
А вот Agnaistic мне понравился намного больше. На тот же вопрос про "Во все тяжкие" ответ был кратким и поделу, а даты и количество сезонов модель подсказала сразу без ошибок. Да, кличку Хайзенберг она попутала с Mr.Chips, но в целом результат хороший. Кодить пока не умеет, либо нужно делать каким-то особым способом запрос.
Из ништяков Agnaistic:
* Не нужно логиниться, данные о чатах не хранятся
* Анонимайзер — можно скрыть имена и даты в чате (для скриншотов я так понял)
* Можно установить локально
* Text-2-Image силами Stable Diffusion, NovelAI, или Horde AI
* Подключение к OpenAI, Claude, Kobold, Novel, AI Horde, и LuminAI через API
* Можно выбирать версии OpenAI (GPT-4, Turbo, DaVinci) и Claude
* Можно пригласить несколько человек в чат
К слову проекты Stable Horde уже сгенерировали: 46,3 млн изображений (574,3 Терапикселей) и 2,9 млн текстов (271,5 мегатокенов). Так что, дело идёт и проект набирает обороты. Уже есть бот для телеги, плагины для GIMP, Unreal Engine, и Blender.
Сайт Stable Horde (там все ссылки) + гитхаб
Agnaistic + гитхаб