Чистое эстетическое удовольствие вот уже почти 2 месяца от полного погружения в AI и локальные модели на практике.
У самой минимальной сборки
https://aiteq.ru/build/build01
хоть и 32Gb vram на борту (2 по 16Gb 5060ti) - для длинной задачи этого не достаточно, есть лимит контекста для моих qwen-3.8:27b Q4 и Gemma-4:12b
Приходится разбивать задачу на пункты и скармливать моей слоповарке по одной. И так до победы. Даже с memanto не на много проще.
Так вот я только что понял - раз ai и есть бэкенд, надо эту тупую задачу по перезапуску не самому выполнять, а передать второй независимой модели и сделать скрипт по её перезапуску.
В общем продолжаю развивать AI агентство с одним человеком в команде.
Кстати build 01 по 345 уже не взять. Момент упущен. Теперь такая сборка стоит 450к. В dns ещё дороже.
У самой минимальной сборки
https://aiteq.ru/build/build01
хоть и 32Gb vram на борту (2 по 16Gb 5060ti) - для длинной задачи этого не достаточно, есть лимит контекста для моих qwen-3.8:27b Q4 и Gemma-4:12b
Приходится разбивать задачу на пункты и скармливать моей слоповарке по одной. И так до победы. Даже с memanto не на много проще.
Так вот я только что понял - раз ai и есть бэкенд, надо эту тупую задачу по перезапуску не самому выполнять, а передать второй независимой модели и сделать скрипт по её перезапуску.
В общем продолжаю развивать AI агентство с одним человеком в команде.
Кстати build 01 по 345 уже не взять. Момент упущен. Теперь такая сборка стоит 450к. В dns ещё дороже.