Статья посвящена вопросу, способен ли искусственный интеллект, прежде всего большие языковые модели, производить значение и смысл. Отправной точкой становится рост доли ИИ-текстов и споры об их эпистемическом и этическом статусе. Автор ставит три вопроса: как сравнивать человеческие и синтетические тексты, применимы ли антропоцентрические метасемантики к ИИ и может ли ИИ создавать принципиально новое содержание.
Рассматривается концепция семантического капитала Л. Флориди — содержания, усиливающего способность агента к семантизации. Показано, что теория Флориди остаётся антропоцентричной: человек обладает и накапливает семантический капитал, а ИИ может выступать лишь «семантическим брокером», производящим его благодаря вычислениям, но не владеющим значением и смыслом. Классификация Флориди по производительности и ценности применяется к ИИ-текстам — от информационного шума до потенциально значимого контента, но автор указывает на нерешённость вопроса о социальных механизмах поддержки капитала.
Далее анализируется проблема «стохастического попугая» Э. Бендер и коллег. Критика семантических способностей ИИ строится на отсутствии у моделей интенций, референции, телесности и социального опыта. Однако те же метасемантические теории используются и для защиты возможности ИИ производить значение, а требования к ИИ часто строже, чем к человеку. Предлагается метод «антропоцентрического абстрагирования» Г. Каппелена и Дж. Девера, позволяющий применять экстерналистскую семантику С. Крипке к системам ИИ, например к кредитному скорингу.
Отдельное внимание уделено «чуждому содержанию», которое нейросети могут генерировать и которое не сводится к человеческим категориям. Обсуждаются стратегии «наведения мостов» и интеграции, а также риски делегирования ИИ роли эксперта. В заключение автор призывает к симметричному подходу к оценке человека и ИИ, учитывающему их различия, когнитивную коэволюцию и социальные механизмы поддержания семантического капитала.
Полный текст статьи Филатовой А.А. в прикреплённом файле. Будем рады узнать ваше мнение в комментариях👇
Рассматривается концепция семантического капитала Л. Флориди — содержания, усиливающего способность агента к семантизации. Показано, что теория Флориди остаётся антропоцентричной: человек обладает и накапливает семантический капитал, а ИИ может выступать лишь «семантическим брокером», производящим его благодаря вычислениям, но не владеющим значением и смыслом. Классификация Флориди по производительности и ценности применяется к ИИ-текстам — от информационного шума до потенциально значимого контента, но автор указывает на нерешённость вопроса о социальных механизмах поддержки капитала.
Далее анализируется проблема «стохастического попугая» Э. Бендер и коллег. Критика семантических способностей ИИ строится на отсутствии у моделей интенций, референции, телесности и социального опыта. Однако те же метасемантические теории используются и для защиты возможности ИИ производить значение, а требования к ИИ часто строже, чем к человеку. Предлагается метод «антропоцентрического абстрагирования» Г. Каппелена и Дж. Девера, позволяющий применять экстерналистскую семантику С. Крипке к системам ИИ, например к кредитному скорингу.
Отдельное внимание уделено «чуждому содержанию», которое нейросети могут генерировать и которое не сводится к человеческим категориям. Обсуждаются стратегии «наведения мостов» и интеграции, а также риски делегирования ИИ роли эксперта. В заключение автор призывает к симметричному подходу к оценке человека и ИИ, учитывающему их различия, когнитивную коэволюцию и социальные механизмы поддержания семантического капитала.
Полный текст статьи Филатовой А.А. в прикреплённом файле. Будем рады узнать ваше мнение в комментариях👇