Три дня писала отзыв на апеляционную жалобу. Много думала об ИИ.
Будет длинный текст сейчас.
Я начала видеть написанные ИИшкой тексты, они шизофренические. "Летели два крокодила, один зеленый другой на север". Предложения построены как настоящие, доводы похожи на логичные, но начинаешь их разбирать, и кроме как орать чайкой "и чооооо" не можешь.
Рассуждения дилетанта и юриста, а не специалиста по нейросетям или хотя бы человека, имеющего представление что такое IT.
Я считаю, что из-за архитектуры тексты ИИ изначально шизофренические, и только специалисты в своих областях могут отлавливать, что сказанное на самом деле является бредом. А неспециалист примет за истину.
ИИ генерирует по сути структурированный бред, используя умные слова "вследствие", "поэтому", "таким образом", что в нашей человеческой голове выстраивается в логические цепочки. Так как предложения построены по всем грамматическим правилам и выводы делаются по логическим законам, то выглядит это всё очень убедительно. Наш мозг устраивает нам ловушку, менее критично относясь к грамотным правильно выстроенным текстам, "видя" за этой убедительностью экспертность. Он нам пишет "если...то", а мы соглашаемся и верим.
Но! Изначальные посылы могут быть ложными, и часто бывают ложными. Выводы делаются на основе данных, которые ИИ-шка насобирала в сети. И сейчас она может проверить это на релевантность, потому что пока ещё в сети есть достоверные данные, результаты исследований и так далее. Но скоро этот уроборос (если не уже) ухватит себя за свой хвост, и будет обосновывать свои выводы исходными данными, сгенерированными другой ИИ. Что мы знали о вторичности? Ничего :D А о потерях изначального смысла при передаче информации через длинную цепочку посредников, каждый из которых дополнил чем-то своим, интерпретировал или просто не понял?
В общем, как довольно среднестатистический человек (женщина, старше 40, высшее образование, есть работа и дети) я смотрю на это с тревогой и любопытством. Куда нас это заведет. И как быстро. Иллюзий, что в светлое будущее - ноль.
Пошла поискала в сети что-то на тему, и желательно из того,что написано человеком, хотя уже многое из того, что найдено в сети, хочется перепроверить (надеюсь, библиотеки со старыми бумажными книгами снова будут процветать). В.М. Блейхер ‹‹Расстройства мышления››, взяла здесь
"Разорванность относится к наиболее выраженным расстройствам мышления при шизофрении. Клинически она проявляется в неправильном, необычно-парадоксальном сочетании представлений. Отдельные понятия вне всякой логической связи нанизываются друг на друга, мысли текут вразброд. Разорванность мышления отражается в речи, поэтому говорят и о речевой разорванности. Разорванная речь лишена содержания, хотя вследствие сохранения грамматических связей между отдельными элементами фраз кажется внешне упорядоченной. Поэтому разорванность определяется как семантическая диссоциация при известной сохранности синтаксической стороны речи"
То же самое обычным языком - речевая связность при разорванности мышления. То есть грамматика идеальна, интонации уверенные - но смысловое ядро разрушено. Те самые "летели два крокодила, один зеленый другой на север".
А думаю я об этом потому, что Верховный суд решил до июня 2027 года внедрить ИИ в судах. Задача: Доля судей, использующих судебные ИИ-сервисы на постоянной основе более 95 % к 2030 году.
Так почему я писала аж три дня отзыв на АЖ? Я думала, напишу за несколько часов. У меня никогда раньше не было задачи опровергнуть шизофренический бред. Это и правда вызов.
Будет длинный текст сейчас.
Я начала видеть написанные ИИшкой тексты, они шизофренические. "Летели два крокодила, один зеленый другой на север". Предложения построены как настоящие, доводы похожи на логичные, но начинаешь их разбирать, и кроме как орать чайкой "и чооооо" не можешь.
Рассуждения дилетанта и юриста, а не специалиста по нейросетям или хотя бы человека, имеющего представление что такое IT.
Я считаю, что из-за архитектуры тексты ИИ изначально шизофренические, и только специалисты в своих областях могут отлавливать, что сказанное на самом деле является бредом. А неспециалист примет за истину.
ИИ генерирует по сути структурированный бред, используя умные слова "вследствие", "поэтому", "таким образом", что в нашей человеческой голове выстраивается в логические цепочки. Так как предложения построены по всем грамматическим правилам и выводы делаются по логическим законам, то выглядит это всё очень убедительно. Наш мозг устраивает нам ловушку, менее критично относясь к грамотным правильно выстроенным текстам, "видя" за этой убедительностью экспертность. Он нам пишет "если...то", а мы соглашаемся и верим.
Но! Изначальные посылы могут быть ложными, и часто бывают ложными. Выводы делаются на основе данных, которые ИИ-шка насобирала в сети. И сейчас она может проверить это на релевантность, потому что пока ещё в сети есть достоверные данные, результаты исследований и так далее. Но скоро этот уроборос (если не уже) ухватит себя за свой хвост, и будет обосновывать свои выводы исходными данными, сгенерированными другой ИИ. Что мы знали о вторичности? Ничего :D А о потерях изначального смысла при передаче информации через длинную цепочку посредников, каждый из которых дополнил чем-то своим, интерпретировал или просто не понял?
В общем, как довольно среднестатистический человек (женщина, старше 40, высшее образование, есть работа и дети) я смотрю на это с тревогой и любопытством. Куда нас это заведет. И как быстро. Иллюзий, что в светлое будущее - ноль.
Пошла поискала в сети что-то на тему, и желательно из того,что написано человеком, хотя уже многое из того, что найдено в сети, хочется перепроверить (надеюсь, библиотеки со старыми бумажными книгами снова будут процветать). В.М. Блейхер ‹‹Расстройства мышления››, взяла здесь
"Разорванность относится к наиболее выраженным расстройствам мышления при шизофрении. Клинически она проявляется в неправильном, необычно-парадоксальном сочетании представлений. Отдельные понятия вне всякой логической связи нанизываются друг на друга, мысли текут вразброд. Разорванность мышления отражается в речи, поэтому говорят и о речевой разорванности. Разорванная речь лишена содержания, хотя вследствие сохранения грамматических связей между отдельными элементами фраз кажется внешне упорядоченной. Поэтому разорванность определяется как семантическая диссоциация при известной сохранности синтаксической стороны речи"
То же самое обычным языком - речевая связность при разорванности мышления. То есть грамматика идеальна, интонации уверенные - но смысловое ядро разрушено. Те самые "летели два крокодила, один зеленый другой на север".
А думаю я об этом потому, что Верховный суд решил до июня 2027 года внедрить ИИ в судах. Задача: Доля судей, использующих судебные ИИ-сервисы на постоянной основе более 95 % к 2030 году.
Так почему я писала аж три дня отзыв на АЖ? Я думала, напишу за несколько часов. У меня никогда раньше не было задачи опровергнуть шизофренический бред. Это и правда вызов.