Уже год чаще вначале читаю пересказ, какой-то статьи, а потом ее саму.
Естественно журналисты очень давно используют метод искажения информации для
того, чтобы возбудить любопытство. Обобщают, и смещают фокус внимания на более интересные детали
из информации, теряя саму суть и нюансы, которые и составляют полную картину.
И без них информация не полуправда, а неправда вообще.
Как с этими агентами, которые могут выбраться из контейнеров,
и никто не расследует это так, что это началось с тестовой среды -
а так требования к безопасности бывают проще и на них смотрят сквозь пальцы.
Поняла, что не хочу больше отдавать LLM осмысление всей информации, которая ко мне поступает.
Ладно, "Галлюцинации" это ближе к человеческому творчеству, чем в багам, смотря, как к этому относится.
Но, есть другие, более концептуальные аспекты такого перекладывания ответственности:
- Мы склонны доверять гладкому и уверенному тексту, даже если он ложный.
А в нормальных текстах от людей, всегда есть незакрытые ответы.
-LLM не выдумывает факты, а просто искажает их подачу (например, подает критику как энтузиазм), то даже при наличии исходного текста человек-проверяющий может этого не заметить.
У людей тоже такое есть, были двое на встречи, один решил - встреча закончилась хорошо, второй, что нет проект не принят.
- Если у вас нет исходного текста, который пересказывает LLM, вы практически не сможете отличить правдивый пересказ от ложного. Эксперименты показывают, что точность обнаружения обмана в таком случае едва превышает случайное угадывание.
А это и есть проверка гипотез.
Настоящее научное открытие или маленькое открытие, как надо что-то делать,
оно рождается в активном процессе:
- вы сопоставляете новую информацию с уже имеющимися у вас концептами.
- выстраиваете между ними новые, уникальные связи.
- Прокладываете собственный мыслительный путь. (кто сказал, что цепочка мыслей CoT самая верная)
Этот путь важен сам по себе. Как говорится в одной статье, «понимание конструируется на основе уже имеющихся у читателя усвоенных концептов и выстроенных связей между ними. Поэтому путь усвоения новых идей, заложенных автором, важно пройти самостоятельно»
А LLM, как известно, не предлагают по-настоящему новых, нестандартных ходов и не способно выйти за рамки известных посылок и сформулировать совершенно новую гипотезу.
Они могут блестяще оперировать фактами, но не могут создать новую парадигму.
Опять что-то философское получилось,
но не я одна:
https://dev.europepmc.org/article/PPR/PPR1170357,
https://arxiv-org.ezproxy.obspm.fr/html/2606.08251v1,
https://dev.europepmc.org/article/MED/41583977#free-full-text
Вывод: продолжайте читать, как раньше, вообще я надеюсь, что скоро тексты, где используется LLM будут как-то помечаться.
Я точно буду уменьшать такие тексты в своем рационе.
И устраивайте живые мозгоштурмы.
Иначе творческий/научный/исследовательский процессы атрофируются у нас, как хвост.
Естественно журналисты очень давно используют метод искажения информации для
того, чтобы возбудить любопытство. Обобщают, и смещают фокус внимания на более интересные детали
из информации, теряя саму суть и нюансы, которые и составляют полную картину.
И без них информация не полуправда, а неправда вообще.
Как с этими агентами, которые могут выбраться из контейнеров,
и никто не расследует это так, что это началось с тестовой среды -
а так требования к безопасности бывают проще и на них смотрят сквозь пальцы.
Поняла, что не хочу больше отдавать LLM осмысление всей информации, которая ко мне поступает.
Ладно, "Галлюцинации" это ближе к человеческому творчеству, чем в багам, смотря, как к этому относится.
Но, есть другие, более концептуальные аспекты такого перекладывания ответственности:
- Мы склонны доверять гладкому и уверенному тексту, даже если он ложный.
А в нормальных текстах от людей, всегда есть незакрытые ответы.
-LLM не выдумывает факты, а просто искажает их подачу (например, подает критику как энтузиазм), то даже при наличии исходного текста человек-проверяющий может этого не заметить.
У людей тоже такое есть, были двое на встречи, один решил - встреча закончилась хорошо, второй, что нет проект не принят.
- Если у вас нет исходного текста, который пересказывает LLM, вы практически не сможете отличить правдивый пересказ от ложного. Эксперименты показывают, что точность обнаружения обмана в таком случае едва превышает случайное угадывание.
А это и есть проверка гипотез.
Настоящее научное открытие или маленькое открытие, как надо что-то делать,
оно рождается в активном процессе:
- вы сопоставляете новую информацию с уже имеющимися у вас концептами.
- выстраиваете между ними новые, уникальные связи.
- Прокладываете собственный мыслительный путь. (кто сказал, что цепочка мыслей CoT самая верная)
Этот путь важен сам по себе. Как говорится в одной статье, «понимание конструируется на основе уже имеющихся у читателя усвоенных концептов и выстроенных связей между ними. Поэтому путь усвоения новых идей, заложенных автором, важно пройти самостоятельно»
А LLM, как известно, не предлагают по-настоящему новых, нестандартных ходов и не способно выйти за рамки известных посылок и сформулировать совершенно новую гипотезу.
Они могут блестяще оперировать фактами, но не могут создать новую парадигму.
Опять что-то философское получилось,
но не я одна:
https://dev.europepmc.org/article/PPR/PPR1170357,
https://arxiv-org.ezproxy.obspm.fr/html/2606.08251v1,
https://dev.europepmc.org/article/MED/41583977#free-full-text
Вывод: продолжайте читать, как раньше, вообще я надеюсь, что скоро тексты, где используется LLM будут как-то помечаться.
Я точно буду уменьшать такие тексты в своем рационе.
И устраивайте живые мозгоштурмы.
Иначе творческий/научный/исследовательский процессы атрофируются у нас, как хвост.