написал статейку по ии, встречал на HN ссылки на arxiv, где встречал интересные тезисы об изменении критического мышления и когнитивных функций при чрезмерном использовании LLM
---
Вы когда-нибудь замечали, что у нейросетей нет своего мнения? Допустим, вы пишете: «Мой тимлид — идиот, он заставил меня писать на PHP». Модель отвечает: «Я понимаю ваше разочарование. Смена технологического стека действительно может быть стрессовой, и PHP часто критикуют за неоднородную архитектуру. Однако…» — и дальше следует мягкая, вежливая, безличная тирада с равным количеством аргументов “за” и “против”, и обобщенным выводом. Она не поддержит вашу агрессию, но и не скажет прямо: «Вы говорите ерунду, ваш тимлид, скорее всего, прав».
Суть популярных LLM — это обобщение и комфорт в общении. Человеку приятнее, когда с ним соглашаются и хвалят, а вывод либо подгоняется под его мнение, либо размывается до золотой середины.
Но почему так происходит? И чем это грозит нам самим? За последние два года вышло несколько исследований, которые устанавливают взаимосвязь между регулярным использованием LLM и рядом негативных эффектов: снижением критического мышления, ухудшением запоминания, ослаблением метакогнитивных навыков и даже потерей терпения к длительным умственным усилиям. Эту проблему я называю синдромом безрукого специалиста — в статье мы разберём, как он возникает и что с ним делать.
https://habr.com/ru/companies/bothub/articles/1063170/
---
Вы когда-нибудь замечали, что у нейросетей нет своего мнения? Допустим, вы пишете: «Мой тимлид — идиот, он заставил меня писать на PHP». Модель отвечает: «Я понимаю ваше разочарование. Смена технологического стека действительно может быть стрессовой, и PHP часто критикуют за неоднородную архитектуру. Однако…» — и дальше следует мягкая, вежливая, безличная тирада с равным количеством аргументов “за” и “против”, и обобщенным выводом. Она не поддержит вашу агрессию, но и не скажет прямо: «Вы говорите ерунду, ваш тимлид, скорее всего, прав».
Суть популярных LLM — это обобщение и комфорт в общении. Человеку приятнее, когда с ним соглашаются и хвалят, а вывод либо подгоняется под его мнение, либо размывается до золотой середины.
Но почему так происходит? И чем это грозит нам самим? За последние два года вышло несколько исследований, которые устанавливают взаимосвязь между регулярным использованием LLM и рядом негативных эффектов: снижением критического мышления, ухудшением запоминания, ослаблением метакогнитивных навыков и даже потерей терпения к длительным умственным усилиям. Эту проблему я называю синдромом безрукого специалиста — в статье мы разберём, как он возникает и что с ним делать.
https://habr.com/ru/companies/bothub/articles/1063170/