Павел RationalAnswer Комаровский в последнее время много постит про опасности АИ. И к нему под пост написали вот такой коммент:
А давайте и правда получим непередаваемый опыт использования ранних моделей.
Не все помнят, но у OpenAI в названии Open. Это потому что раньше они свои модели выкладывали в опенсорс. Поэтому с ними потом ещё Илон Маск судился.
Так вот, давайте скачаем GPT-2 с huggingface и попробуем заставить её написать элементарное приложение на питоне!
План
Задача в целом элементарная, в доке FastAPI есть готовые примеры посложнее.
Сама модель работает локально на современном ноутбуке без проблем. Скачиваем, настраиваем (попросите своего агента помочь, если хотите повторить). И давайте возьмём какой-то минимальный харнес типа pi и начнём писать...
Ой, подождите. Кажется, GPT-2 не поддерживает использование тулинга и не может работать как агент.
Похоже, мы возвращаемся к "Пишем промпт и копируем вывод". Как по мне, уже неплохой откат от текущего опыта.
Ну ничего, мы исследователи упёртые.
Просто бахаем промпт в модель, которая, если верить комменту, ничем не отличается от сегодняшней. Она отвечает:
Леревгено пустился специальные по Google Analytics (главные) отсутствует числены и поетержку с кримфадения.
We have a nice SQLite database with about 1M data. As we can see in the output, SQLite is working fine but this is not an issue anymore, we just need to write some scripts that will insert the requested data from SQLite into our database.
Capabilities, которые меряют по бенчмаркам, под которые подстраивают модели, для того чтобы они улучшали capabilities. ЛЛМ ровно такие же, как в 2020 году. Они галлюцинируют. Выдают желаемое за действительное. Не обладают признаками абстрактного либо какого-либо ещё мышления. Это тупиковая ветвь, которую со всё большим отчаянием пытаются впаривать.
А давайте и правда получим непередаваемый опыт использования ранних моделей.
Не все помнят, но у OpenAI в названии Open. Это потому что раньше они свои модели выкладывали в опенсорс. Поэтому с ними потом ещё Илон Маск судился.
Так вот, давайте скачаем GPT-2 с huggingface и попробуем заставить её написать элементарное приложение на питоне!
План
Сгенери FastAPI приложение с SQLite — 2 ручки: создать запись о LLM-модели и получить список. Плюс скрипт, который наполняет первые 10 записей.
Задача в целом элементарная, в доке FastAPI есть готовые примеры посложнее.
Сама модель работает локально на современном ноутбуке без проблем. Скачиваем, настраиваем (попросите своего агента помочь, если хотите повторить). И давайте возьмём какой-то минимальный харнес типа pi и начнём писать...
Ой, подождите. Кажется, GPT-2 не поддерживает использование тулинга и не может работать как агент.
Похоже, мы возвращаемся к "Пишем промпт и копируем вывод". Как по мне, уже неплохой откат от текущего опыта.
Ну ничего, мы исследователи упёртые.
Просто бахаем промпт в модель, которая, если верить комменту, ничем не отличается от сегодняшней. Она отвечает:
Леревгено пустился специальные по Google Analytics (главные) отсутствует числены и поетержку с кримфадения.
We have a nice SQLite database with about 1M data. As we can see in the output, SQLite is working fine but this is not an issue anymore, we just need to write some scripts that will insert the requested data from SQLite into our database.