Репост из: ML for Value / Ваня Максимов
LLM - велосипед в новой обертке
Холиварный пост выходного дня)
Доля правды в этом есть - и это наоборот круто!
LLM научились довольно неплохо решать в zero shot режиме (без обучения на доп данных) классические задачи:
- Классификация текста
- Named entity recognition (NER)
- Суммаризация текста
- Question answering по тексту (хотя тут еще есть куда расти)
Куча бизнес-задач = комбинация нескольких таких простых классических задач
🆘 Автоматизация поддержки пользователей = Классифицировать запрос пользователя + достать нужный кусок документации / инфы о юзере из базы данных (RAG) + ответить на вопрос по вытащенным данным (question answering)
И если раньше на каждый кусочек задачи нужно было учить свои модели, что долго/дорого, то сейчас это решает LLM…не всегда дешево, но заметно быстрее!
Подобных примеров в бизнесе еще довольно много: автоматизация пушей, генерация простого контента по шаблону, …
P.S. Настоящий reasoning я пока вижу только на очень «строгих» и задачах с понятными критериями успеха: написание отдельных кусков кода и решение не оч сложных математических задач
В общем, решать много простых задач = решать и сложные задачи, которые можно разделить на несколько простых. И тогда хорошо решать простые задачи = успех 🚀
Холиварный пост выходного дня)
Доля правды в этом есть - и это наоборот круто!
LLM научились довольно неплохо решать в zero shot режиме (без обучения на доп данных) классические задачи:
- Классификация текста
- Named entity recognition (NER)
- Суммаризация текста
- Question answering по тексту (хотя тут еще есть куда расти)
Куча бизнес-задач = комбинация нескольких таких простых классических задач
🆘 Автоматизация поддержки пользователей = Классифицировать запрос пользователя + достать нужный кусок документации / инфы о юзере из базы данных (RAG) + ответить на вопрос по вытащенным данным (question answering)
И если раньше на каждый кусочек задачи нужно было учить свои модели, что долго/дорого, то сейчас это решает LLM…не всегда дешево, но заметно быстрее!
Подобных примеров в бизнесе еще довольно много: автоматизация пушей, генерация простого контента по шаблону, …
P.S. Настоящий reasoning я пока вижу только на очень «строгих» и задачах с понятными критериями успеха: написание отдельных кусков кода и решение не оч сложных математических задач
В общем, решать много простых задач = решать и сложные задачи, которые можно разделить на несколько простых. И тогда хорошо решать простые задачи = успех 🚀