Рубцов Захар | Gosapp Digital

Нейросети стали избирателями

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Представьте себе рай для штаба: больше не нужно ломать голову над тем, что волнует людей, какие лучше сделать АПМ, какие темы «разгонять» в интернете и прочее. Зачем все это, если избирателей теперь можно просто сгенерировать и спросить напрямую: «Вам нравится эта идея или нет?»

Группа исследователей решила разобраться, можно ли в избирательной кампании использовать так называемых синтетических избирателей. В чем суть: ИИ создает виртуальных людей с заданным возрастом, местом жительства и политическими взглядами. Потом этим «людям» показывают материалы и спрашивают, что они думают о кандидате или конкретном сообщении. Звучит почти идеально, ведь за короткое время можно проверить несколько гипотез через разные аудитории и понять, что потенциально «заходит», а что лучше сразу отправить в корзину.

Правда, сами исследователи пока предлагают относиться к технологии без лишнего восторга. Синтетические избиратели могут быть полезны, чтобы быстро проверить рабочую гипотезу, сравнить несколько вариантов сообщения или понять, что вообще имеет смысл нести на настоящую фокус-группу. То есть скорее как дополнительный фильтр перед нормальным исследованием, а не его замена.

И здесь начинается самое интересное: а кого вообще изображает нейросеть?

Самый простой способ – дать задачу а-ля «Тебе 47 лет, ты живешь в таком-то городе, голосовал за такого-то кандидата, работаешь там-то». Ну и попросить модель отвечать от имени этого человека. Получается своего рода цифровой ролевик.

Более сложные же системы пытаются моделировать не одного, а уже целые группы людей. Но и здесь обнаружился так называемый «эффект среднего персонажа»: типичного представителя аудитории ИИ воспроизводит неплохо, а вот с теми, кто ведет себя нестандартно, справляется заметно хуже.

Да и обычная фокус-группа ценна не только финальным ответом «нравится – не нравится». Иногда важнее увидеть, где человек запнулся, над чем задумался, с кем начал спорить и что внезапно его задело. Синтетический избиратель наверняка даст аккуратный ответ. Но это еще не значит, что настоящий человек поведет себя так же, как ИИ.

Нейросети в политике: дай штабу ИИ, он и лоб расшибет

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.

В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).

Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.

Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.

За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.

Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…

«Этот текст написал ИИ»: в Европе будут маркировать политические публикации

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.

Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.

Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.

Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.

В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.

Нейросети идут на выборы: зачем ИИ-компаниям финансировать политические фонды

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Кажется, разработчикам искусственного интеллекта уже наскучило просто работать над новыми ИИ-моделями. Теперь они увлеклись новым занятием и пытаются влиять на тех, кто будет писать для них законы. Правда, пока что речь только о США. За первую половину текущего года OpenAI (ChatGPT) потратила на лоббизм в штатах $2,22 млн, а Anthropic (Claude) – $3,53 млн. Для обеих компаний это рекордные суммы.

В чём там вообще дело? Сейчас в Вашингтоне обсуждают, кто должен проверять новые модели искусственного интеллекта перед их «выходом в свет», можно ли штатам принимать собственные законы об ИИ и какие ограничения вводить на экспорт технологий. И, конечно, для крупных игроков результат этих споров может оказаться крайне важным.

Разберём отдельно на примерах. Есть в штатах фонд Leading the Future – по сути это политический комитет, который собирает деньги технологических инвесторов и тратит их на поддержку кандидатов, выступающих за благоприятные для ИИ-индустрии правила. К концу июня фонд собрал почти $75,8 млн. И его поддержали крупные технологические инвесторы, включая президента и сооснователя OpenAI Грега Брокмана с женой.

У Anthropic схема немного другая. Компания перечислила в общей сложности $40 млн организации Public First Action. Эта организация занимается продвижением более строгих правил для ИИ, объясняя политикам и избирателям, зачем такие ограничения нужны. При этом вокруг неё создана сеть из трёх политических фондов, которые также могут поддерживать подходящих кандидатов. Деньги Anthropic, по заявлению самой компании, помогают финансировать общую кампанию за усиление контроля над отраслью – якобы всё во имя добра, и никаких других интересов они не преследуют.

Получается довольно любопытная картина: представители одной индустрии финансируют противоположные политические лагеря. Leading the Future (в которую вкладывается OpenAI) выступает против множества отдельных ограничений на уровне штатов и продвигает единые федеральные правила. Public First (поддержка со стороны Anthropic), напротив, требует более серьёзных проверок и гарантий безопасности. В то же время эти два, казалось, конкурирующих лагеря иногда поддерживают одного политика. Например, стороны вложились в продвижение конгрессмена Джоша Готтхаймера, который занимается законодательством в сфере ИИ.

Думаю, ни для кого не станет откровением, что дальше присутствие ИИ-компаний в политике будет только усиливаться. Будет расти финансирование фондов, будут разворачиваться новые информационные кампании. С одной стороны, сам же по себе диалог бизнеса с государством вполне нормален. Что здесь такого? Но вот в случае с ИИ-гигантами ставки слишком высоки: правила для одной из важнейших технологий будущего могут написать при активном участии тех, кто больше всех заработает на их мягкости.

Нейросети оказались плохими политическими советниками

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.

Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…

На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.

Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.

Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.

У искусственного интеллекта появляются свои «министерства»

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?

По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.

Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.

Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.

Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.

Госдума приняла законопроект о регулировании искусственного интеллекта

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Пожалуй, один из главных блоков в документе – разделение больших языковых моделей на «суверенные» и «национальные». В чём отличие? Суверенная модель должна целиком контролироваться российским юрлицом и размещаться в наших отечественных ЦОДах (центрах обработки данных). К национальной же модели требования мягче: допускается использование иностранных компонентов.

О чём нам говорит такой подход? Вполне логично, что построить с нуля большую и независимую ИИ-модель крайне сложно, дорого и долго. Государство это понимает и делает закономерный шаг в сторону разделения. С одной стороны, будет возможность использовать решение с максимальным уровнем доверия (суверенная модель), с другой – со смешанной технологической базой (национальная).

Кого это коснётся в первую очередь? Речь идёт о крупных разработчиках, интеграторах, банках, медиа, образовательных сервисах и других. Что же касается обычных пользователей, думаю, мы увидим появление отдельных пользовательских соглашений, маркировок и фильтров. А вот компаниям придётся следить за тем, какую модель они используют и где обрабатываются персональные данные.

Отдельный интересный блок в законопроекте связан с авторскими правами. Как мы знаем, нейросети должны всё время обучаться – то есть поглощать и обрабатывать большие массивы данных. Так вот, если разработчик получил эти данные правомерно или они были в открытом доступе – это не будет являться нарушением. Речь идёт о текстах, изображениях, аудио, видео и многом другом. Пока не совсем понятно, как это будут отслеживать, ведь даже если условный файл лежит в открытом доступе, это не значит, что автоматически есть согласие на его использование для обучения коммерческого ИИ.

Также, согласно документу, все ИИ-материалы должны будут маркироваться. Вполне конкретный ответ на дипфейки и синтетические ролики. Получается, если в производстве контента используются нейросети, такой контент нужно помечать. Но, как и в случае с авторским правом, посмотрим опыт применения на практике.

Сам законопроект показывает, что технологии искусственного интеллекта в России постепенно выводят из зоны экспериментов в зону регулирования. Государство намерено не просто наблюдать за рынком ИИ со стороны, а встроить его в понятную рамку. Но очень важно, чтобы нормы не оказались слишком размытыми, ведь только так рынок сможет получить чёткие правила игры.

«Нейросеть с духовно-нравственными ценностями»: как в России предлагают поддерживать национальные и суверенные ИИ-модели

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Буквально на днях появилась новость о том, что российское правительство закончило работу над законопроектом об искусственном интеллекте. Вернее, в значительной степени его доработало: даже название сменилось с «регулирования ИИ» на «поддержку развития технологий ИИ». Если говорить совсем простым языком, то государство хочет навести порядок с ИИ и установить понятные правила игры. Например, вводятся базовые понятия, которых раньше не было, типа «искусственный интеллект», «большие языковые модели», «суверенные модели».

Конечно, сейчас нейросетями и так пользуются вообще все (компании, госструктуры, обычные пользователи), но ведь это же нужно как-то закрепить в правовом поле. Вот и пошёл процесс закрепления. Справедливости ради стоит отметить, что документ действительно доработали и убрали несколько спорных вещей, которые у многих вызывали вопросы. Например, исчез запрет на трансграничный ИИ, из-за чего рынок опасался возможного ограничения иностранных моделей.

Также исчезло требование обучать модели только на российских данных. Да и фокус в целом сместили: если раньше собирались регулировать «вообще всё», то теперь сконцентрировались на БФМ – больших фундаментальных моделях (от 1 млрд параметров). Для сравнения (если верить интернету), в YandexGPT 5 Lite их больше 8 млрд.

Разумеется, в соответствии с духом текущего времени большая ставка в документе сделана на национальное и на суверенное. Прописаны требования к процессу разработки исконно отечественных ИИ-моделей, среди которых только российское юрлицо, хранение данных исключительно на территории РФ и прочее. Разработчики, в свою очередь, смогут рассчитывать на господдержку. А в отдельных случаях (в особо чувствительных сферах) государство вправе потребовать применение только таких моделей – что по логике не должно относиться к частному сектору (насильно заставлять вас, например, переходить от ChatGPT к YandexGPT не будут… пока что).

В итоге видим этакую «нейросетевую оттепель». Законопроект в новом виде стал действительно мягче, но по-прежнему остается тысяча вопросов к реализации всех этих предложений. Как будут проверять соответствие моделей выдвинутым требованиям? Например, чтобы модель получила статус национальной и суверенной – она должна соответствовать законодательству и духовно-нравственным ценностям. И вот если с законодательством всё понятно, то как будут тестировать на ценности – открытый вопрос.

Мир погружается в новую цифровую гонку

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Глобальный интернет постепенно обрастает барьерами и цифровой колючей проволокой, а ограничений становится всё больше. Где-то фильтруют цифровую переписку, где-то ограничивают доступ к технологиям, а где-то переводят госструктуры на собственные платформы, чтобы меньше зависеть от чужой (враждебной) инфраструктуры. И это общемировая тенденция, которая в последнее время начала усиливаться.

Один из показательных примеров – свежая новость из Эстонии. Там письма с российских доменов (.ru), которые идут в государственные учреждения, будут помещать в карантин, чтобы они проходили дополнительную проверку. Объясняется это кибербезопасностью и риском проникновения хакеров в государственные базы (хотя чем другим там могли ещё объяснить). При этом показательно в истории то, что цифровая граница начала проходить уже не по соцсетям (как это было раньше), не по сайтам или банковским сервисам, а по обычной электронной почте. Базовая коммуникация начала делиться на «свою», «чужую» и «подозрительную».

Но если прибалты боятся русских хакеров, то вот в США опасаются, что их технологии начнут уходить за границу. Речь о наших любимых нейросетях. Штаты стали активнее рассматривать мощные AI-модели как важный стратегический ресурс и решили ограничивать к ним доступ по соображениям национальной безопасности. Всем ли решили ограничить доступ? Нет, в основном иностранцам. Оказалось, что новые модели от компании Anthropic (многие знают их по нейросети Claude) настолько мощные, что правительство США обязало закрыть к ним доступ для иностранных пользователей.

И вот этот кейс, пожалуй, наиболее наглядно показывает нам, по какому вектору движется технологическое развитие. Участников глобальной цифровой гонки теперь не так сильно волнуют чипы, дата-центры и деньги. Они сконцентрированы на том, чтобы сильные цифровые инструменты и решения оставались исключительно внутри государства.

Не остаются в стороне и французы. У них, правда, нет мощных ИИ-моделей, но они задумались над отказом от иностранного ПО. Есть такая американская IT-компания Palantir Technologies, которая разрабатывает софт для спецслужб, оборонных структур и государственных ведомств. Так вот французы решили, что «не могут мириться с новыми стратегическими зависимостями в цифровой сфере» и выбрали нового подрядчика (ChapsVision). Вероятно, многие европейские страны в будущем могут последовать такому примеру.

Разумеется, не отстаём в этом плане и мы – в России переблокировали множество иностранных сервисов, о чём нам хорошо известно. Но блокировки – это лишь один из приёмов обороны. В лидерах же сейчас наверняка окажется не тот, кто больше ввёл ограничений. Впереди будет тот, кто в наступившую эпоху цифровых барьеров сможет предложить собственные сильные альтернативы. И, как мы видим, эта гонка только набирает обороты.