Обнаружен самый простой и эффективный способ запустить копию ChatGPT у себя на компьютере — LLM Studio.

Скачиваем отсюда версию под свою ОС. Внутри есть поиск по open source моделям, рекомендуем QuantFactory/Meta-Llama-3-8B-Instruct-GGUF наименьшего размера, так как она наименее требовательна к железу.

Ждем, пока модель загрузится, заходим в раздел «Chat» и выбираем ее. Все, никакой Python и сложные скрипты не нужны, можно наслаждаться.

Из минусов — у open source модели бывают проблемы с русским языком, из плюсов - собственная NSFW модель у вас дома.