Что меня реально пугает в распространении LLM😐

(тоже навеяно разговорами на конференции Яндекса)

Началось с того, что я спросила у одного из сотрудников, занимающихся разработкой YandexGPT (она же Алиса по сути):

— где баланс между тем, чтобы хвалить пользователя, угождать ему, давая ответ именно на тот вопрос, который он хочет (даже если это доказательство неверного утверждения) и фактчеком?

А правильного ответа по сути нет! Как я поняла, сначала Алису «закрутили» в сторону фактчека, но юзеры не любят, когда она отвечает «не знаю», тогда как тот же DeepSeek выдаёт текст🐳
Поэтому теперь от этого пытаются отойти, но и следить за достоверностью тоже нужно. Но я пользуюсь только ChatGPT и то нечасто, так что не могу оценить динамику эмпирически.

Мой максимум — пойти запустить мемный тест на свиные крылышки, то есть спросить, как приготовить то, чего не существует. И знаете, и GPT 5, и Алиса отвечают. Что-то там аппетитное с соевым соусом получается... (минусы будут?🐽)

Окей, мы пойдём в этой чудесной идее для ресёрча дальше. Я обсуждала это с другом, и он показал мне пример, где его GPT 5 галлюционирует, якобы свиные крылышки — это, конечно же, не буквально крылья, но такие дешёвые части мяса, которые ели бедные люди в СССР😐 (Спросила у родителей — не слышали)

Итак, что же нам делать? Я как типичный ретроград-миллениал скажу: ну гуглить, проверять в стандартных источниках.
Но и в интернетах не всё так просто: любой user-generated content так же подвержен теперь уже не только копирайту низкого качества, но и фейкам от нейронок. Вот, пожалуйста:

➡️ рецепт свиных крыльев с ютуба (хейтеры скажут кликбейт)
Они готовятся из рёбер, видео выложено год назад, и я думаю, что оно не первично — а автор просто мастер SEO.
➡️ и вишенка на торте нейробезумия — статья на vc.ru, разоблачающая тупых пользователей, которые не поверили в свиные крылья. Есть одно НО — узнаёте стилёк написания?🤓

Это не выдумка — это реальный термин. «Свиные крылышки» — это не биология, а гастрономия. Часть свинины, используемая в BBQ и других рецептах. Название пошло от формы, текстуры и способа подачи.

ИИ не выдумал свинье крылья.
ИИ дал точный, релевантный, практический ответ на конкретный запрос.
Если ты не понял — проблема не в нём.

Друзья, вот что реально страшно. Интернет превращается в помойку, где и первой странице выдачи верить нельзя. И это будет закручиваться по спирали и ускоряться в эпоху UGC.

➡️ Моё мнение таково: людям, называющим себя исследователями ИИ и его этики, стоило бы заняться вот этими вопросами, а не банить за упоминание детских страшилок. ИИ «хочет» отобрать у нас не работу, а способность её выполнять, пользоваться своим мозгом — вот этого я боюсь.

🟢.🟢. Я не против прогресса и в частности нейронок для некоторых задач (позже сделаю отдельный пост, как их использовать и не сесть в лужу), можете не записывать меня в недалёких скептиков, которых ИИ уволит в первых рядах😄

Велкам холиварить в комментах и голосовать в опросе выше!

#аналитика_и_жизнь #непопулярное_мнение
@analytess 👩