Чатгпт и тд: (субъективная) инструкция по применению
Насколько я противник обсуждения сильного искусственного интеллекта применительно к чатгптитд, настолько же я активный их пользователь как инструмента и помощника для интеллекта естественного. Поэтому решил написать субъективную инструкцию по ЧатГПТ – на основе того, что я знаю про устройство больших языковых моделей и личного опыта использования.
Большие языковые модели – это предсказатели следующих элементов в заданной последовательности. Обучение проводится на доступных в интернете текстах или специализированных текстовых базах. Всё это с некоторой фильтрацией, последующей выборочной перепроверкой и файн-тюнингом формы и тона ответа.
Таким образом, ответ на вопрос, который мы задаём – это усреднённое по множеству текстов продолжение текста нашего вопроса. Чаще всего за вопросом следует ответ, поэтому мы и получаем то, что выглядит как ответ.
При этом модель не знает сомнения, она будет выдавать продолжение текста, какой бы изощрённый вопрос мы не задали. Это и фича (можно получить интересный ответ или необычное решение) и бага (уверенный ложный ответ).
Итак, какие вещи МОЖНО спрашивать:
1. Вопросы, на которые есть общепринятый ответ. Замена гуглу. Большинство продолжений текстов в источниках ведёт к одному ответу – его модель и выдаёт. Модель просто погуглила за тебя. Можно доверять.
2. Решение практической проблемы, которое можно моментально проверить. Как оттереть следы ржавчины от столешницы, как заходить алгоритм, как отключить уведомления о рекламных акциях в Uber Eats.
3. Творческая задача, где нет однозначного ответа, но мы сами можем оценить результат на свой вкус: костюм на хеллоуин на заданную тему, как обставить комнату в квартире, какую пасту можно приготовить, если в холодильнике только шпроты, молоко и чили-соус.
4. tldr – резюме какого-то длинного, не жизненно важного текста, который нам лень читать. При этом, с очень большими текстами (книга, гигантская переписка) – это всё ещё работает не очень.
5. Связное резюме или черновик ваших собственных набросков. Например, я иногда делаю черновик секции обсуждения результатов в статье из списка результатов (см. сноску*).
6. Брейнсторминг для решения проблемы. Или размышление вслух через разговор с моделью. Может привести к полезным идеям и уточнению своих мыслей.
7. Составить формальное письмо в какой-то орган по какому-то запросу с местной спецификой. Идеально.
8. Пруфридинг – но умеренный. Модель ВСЕГДА найдёт что улучшить в тексте. Даже в своём собственном.
Какие вещи лучше НЕ СПРАШИВАТЬ:
1. Информация, которая может легко измениться: маршрута транспорта, трафик, время работы чего-то и тд.
2. Вопросы, на которые нет общепринятого ответа. Будет либо что-то невнятное, либо один вариант с необоснованной уверенностью.
3. Сложные личные решения. Модель не может принять решение за вас, она может только аккуратно резюмировать ваши мысли на тему. Но люди принимают решения не только на основе мыслей, но и на основе чувств - а их сложно передать модели (а многие люди их и сами игнорируют)
4. Маргинальные юридические вопросы: можно ли человеку с двойным гражданством водить машину в РФ с иностранными правами; можно ли открыть игрушечное казино для детей с использованием реальной, но иностранной валюты в новой экономической зоне **.
5. Эстетический продукт: текст или изображение. Конечно, зависит от ваших целей, но скорее всего получится нечто безличное и бездарное.
Важный нюанс, который всегда учитывать: нужно быть аккуратными со словами, которые мы используем. Модели очень чувствительны к словам, которые есть в промпте и ответы будут привязываться к ним. Если у вас есть гипотеза, в какую сторону должен быть ответ, но вы хотите получить независимый ответ от ЛЛМ, делайте свой запрос нейтральным, избегайте намёков на свой вариант ответа.
Насколько я противник обсуждения сильного искусственного интеллекта применительно к чатгптитд, настолько же я активный их пользователь как инструмента и помощника для интеллекта естественного. Поэтому решил написать субъективную инструкцию по ЧатГПТ – на основе того, что я знаю про устройство больших языковых моделей и личного опыта использования.
Большие языковые модели – это предсказатели следующих элементов в заданной последовательности. Обучение проводится на доступных в интернете текстах или специализированных текстовых базах. Всё это с некоторой фильтрацией, последующей выборочной перепроверкой и файн-тюнингом формы и тона ответа.
Таким образом, ответ на вопрос, который мы задаём – это усреднённое по множеству текстов продолжение текста нашего вопроса. Чаще всего за вопросом следует ответ, поэтому мы и получаем то, что выглядит как ответ.
При этом модель не знает сомнения, она будет выдавать продолжение текста, какой бы изощрённый вопрос мы не задали. Это и фича (можно получить интересный ответ или необычное решение) и бага (уверенный ложный ответ).
Итак, какие вещи МОЖНО спрашивать:
1. Вопросы, на которые есть общепринятый ответ. Замена гуглу. Большинство продолжений текстов в источниках ведёт к одному ответу – его модель и выдаёт. Модель просто погуглила за тебя. Можно доверять.
2. Решение практической проблемы, которое можно моментально проверить. Как оттереть следы ржавчины от столешницы, как заходить алгоритм, как отключить уведомления о рекламных акциях в Uber Eats.
3. Творческая задача, где нет однозначного ответа, но мы сами можем оценить результат на свой вкус: костюм на хеллоуин на заданную тему, как обставить комнату в квартире, какую пасту можно приготовить, если в холодильнике только шпроты, молоко и чили-соус.
4. tldr – резюме какого-то длинного, не жизненно важного текста, который нам лень читать. При этом, с очень большими текстами (книга, гигантская переписка) – это всё ещё работает не очень.
5. Связное резюме или черновик ваших собственных набросков. Например, я иногда делаю черновик секции обсуждения результатов в статье из списка результатов (см. сноску*).
6. Брейнсторминг для решения проблемы. Или размышление вслух через разговор с моделью. Может привести к полезным идеям и уточнению своих мыслей.
7. Составить формальное письмо в какой-то орган по какому-то запросу с местной спецификой. Идеально.
8. Пруфридинг – но умеренный. Модель ВСЕГДА найдёт что улучшить в тексте. Даже в своём собственном.
Какие вещи лучше НЕ СПРАШИВАТЬ:
1. Информация, которая может легко измениться: маршрута транспорта, трафик, время работы чего-то и тд.
2. Вопросы, на которые нет общепринятого ответа. Будет либо что-то невнятное, либо один вариант с необоснованной уверенностью.
3. Сложные личные решения. Модель не может принять решение за вас, она может только аккуратно резюмировать ваши мысли на тему. Но люди принимают решения не только на основе мыслей, но и на основе чувств - а их сложно передать модели (а многие люди их и сами игнорируют)
4. Маргинальные юридические вопросы: можно ли человеку с двойным гражданством водить машину в РФ с иностранными правами; можно ли открыть игрушечное казино для детей с использованием реальной, но иностранной валюты в новой экономической зоне **.
5. Эстетический продукт: текст или изображение. Конечно, зависит от ваших целей, но скорее всего получится нечто безличное и бездарное.
Важный нюанс, который всегда учитывать: нужно быть аккуратными со словами, которые мы используем. Модели очень чувствительны к словам, которые есть в промпте и ответы будут привязываться к ним. Если у вас есть гипотеза, в какую сторону должен быть ответ, но вы хотите получить независимый ответ от ЛЛМ, делайте свой запрос нейтральным, избегайте намёков на свой вариант ответа.