ПАЩЕНКО x AI-TREND

OpenAI начала показывать рекламу в ChatGPT в Европе. С 24 августа ChatGPT Ads постепенно запускается в 31 европейской стране.

Реклама появится у пользователей бесплатного тарифа и подписки Go, а Plus и Pro останутся без рекламы. OpenAI обещает отделять рекламные блоки от ответов ИИ и не предоставлять рекламодателям доступ к чатам пользователей.

Фактически ChatGPT постепенно превращается в новую рекламную площадку, особенно интересную для компаний в момент, когда пользователь уже в запросе выбирает товар или услугу. Вот и "объективные" рекомендации.

Новое исследование Guidelight AI Standards показывает, что ведущие ИИ-компании пока мало рассказывают о том, как будут действовать, если модель попытается выйти из-под контроля. Можно сказать, что они просто не знают, что будут делать в этом случае.

Анализ публичных документов пяти компаний (OpenAI, Anthropic, Google, Meta (признана экстремистской организацией и запрещена в России) и xAI) демонстрирует заметные пробелы в процедурах отзыва разрешений, остановки задач, ограничения доступа и полного отключения моделей. Лучше других по публично раскрытым мерам выглядит OpenAI, хуже – Anthropic.

При этом речь не обязательно о том, что у компаний вообще нет таких механизмов. OpenAI, например, заявляет, что умеет ограничивать права моделей и отключать их. Однако, чем более автономными становятся ИИ-системы, тем важнее заранее знать, как их остановить, а не придумывать план спасения во время аварии. Известно о планах властей США потребовать от разработчиков раскрытия процедур реагирования на критические инциденты.

Каждая третья новая страница в интернете уже имеет следы ИИ.
 
Новое исследование Pew Research показало, что 35% веб-страниц, опубликованных после запуска ChatGPT в ноябре 2022 года, содержат признаки значительного участия ИИ. Да, ИИ использовался для разных задач – от полного написания текста до существенного редактирования. Исследователи проанализировали почти полмиллиона англоязычных страниц из архива Common Crawl.
 
Причём если взять случайную выборку всего интернета, показатель значительно ниже – около 10%. Но это во многом связано с тем, что в ней много старых страниц, созданных ещё до появления массовых генеративных моделей.
 
Есть и любопытная деталь: страницы в доменной зоне .com демонстрируют признаки ИИ примерно в 10 раз чаще, чем сайты .edu и .gov. Для .org показатель тоже заметно ниже.
 
И сколько качественного человеческого контента вообще останется в интернете через несколько лет?

ИИ не близок к победе над раком, и проблема не в мощности моделей.

В сети активно обсуждается заявление биотех-стартапа Vivodyne. ИИ не хватает качественных данных о том, как человеческие ткани реально реагируют на лекарства. Большая часть доступных данных получена либо на животных, либо на отдельных клетках и белках. Это сильно отличается от поведения сложной живой человеческой ткани.

Компания создает роботизированные лаборатории, которые способны выращивать около 20 типов человеческих тканей, самостоятельно воздействовать на них препаратами и отслеживать результат. Таким образом стартап хочет автоматически генерировать огромные массивы биологических данных, которых сейчас не хватает ИИ-моделям.

Нельзя просто дать более мощной нейросети больше вычислений и ждать появления лекарства от рака. Если на входе недостаточно данных о реальной биологии человека, модель будет гораздо лучше анализировать существующие знания, но не обязательно совершит медицинский прорыв.

OpenAI запустила специальный режим ChatGPT для пользователей 13–17 лет - с более жесткими ограничениями, родительским контролем, защитой от опасного контента и инструментами для учёбы, но против списывания. Компания говорит, что система учитывает возраст пользователя и автоматически включает более безопасный сценарий.

Возраст определяется не только по указанной дате рождения, но и с помощью поведенческих сигналов. При этом даже хорошо настроенные ограничения остаются программными барьерами. Однако подростки исторически очень хорошо умеют искать способы обходить родительский контроль и ограничения цифровых сервисов. Первые тесты уже показывают слабое место. Например, Business Insider смог получить от «подростковой» версии ChatGPT полноценное эссе после нескольких попыток и уговоров, хотя изначально модель отказывалась выполнять домашнее задание целиком.

При этом дети и подростки используют ChatGPT уже несколько лет, а специализированная защита появилась только сейчас. OpenAI постепенно готовила систему. Сначала компания разработала принципы для пользователей младше 18 лет, затем представила концепцию Teen Safety Blueprint, родительский контроль и другие механизмы. Компания явно не хотела просто включить несколько фильтров и отправить их в релиз. Но возникает очевидный парадокс. Чем дольше компания тестирует систему на разных аудиториях, тем больше реальных пользователей успевают столкнуться с прежними ограничениями. Поэтому запуск ChatGPT for Teens выглядит не столько финальной системой защиты, сколько началом большого эксперимента.

Мне кажется, что компания тормозила с запуском сервиса неслучайно - всё-таки настоящие данные о запросах и интересах молодой аудитории помогают понять, какой она будет в будущем. Где и как теперь компания будет их искать сквозь сетку фильтров, большой практический вопрос.

Есть и хорошие новости, но порадуемся за других. Тайвань выплатит гражданам деньги на фоне рекордного роста экономики. Все это благодаря ИИ.
 
Власти Тайваня планируют направить гражданам страны по 10 тысяч тайваньских долларов, а это около $314. Выплаты могут стать своеобразными «дивидендами от ИИ». Так, экономика острова резко ускорилась на фоне роста спроса на полупроводники, системы высокопроизводительных вычислений и ИИ.
 
Причиной такого решения стал стремительный рост экономики Тайваня. Правительство связывает такие результаты прежде всего с экспортом полупроводников и глобальным бумом ИИ. Тайвань занимает ключевое место в мировой цепочке производства чипов. В частности, здесь работает TSMC, выпускающая процессоры и ускорители для крупнейших технологических компаний.
 
Если автоматизация и рост производительности действительно будут приводить к концентрации доходов в технологическом секторе, прямые выплаты гражданам могут рассматриваться как один из инструментов регулирования национальной экономики. При этом Тайвань ранее уже проводил разовые денежные выплаты населению. Так, в 2026 году гражданам было выплачено по 10 тысяч тайваньских долларов.

Tesla готовит запуск Cybercab – роботакси без руля и педалей

Tesla готовится запустить Cybercab в Остине (Техас, США). На первом этапе роботакси будут перевозить сотрудников, затем сервис планируют открыть для обычных пассажиров.
Главная особенность Cybercab – отсутствие руля и педалей. Это автомобиль, изначально созданный для автономных поездок – пассажир садится в машину, указывает пункт назначения и больше не участвует в управлении. Tesla давно развивает беспилотные технологии, но Cybercab становится принципиально новым этапом. Если обычный автомобиль можно вернуть под контроль водителя, то здесь такой возможности просто нет.
Пока регулятор разрешает Tesla тестировать небольшое количество машин. Компания фактически должна доказать, что автономное такси способно безопасно работать без постоянного человеческого контроля. Если эксперимент окажется успешным, Cybercab может изменить саму экономику такси. Да, водитель исчезает из цепочки, а автомобиль превращается в сервис, который доступен всем без исключений.

Готовы ли пассажиры доверить свою жизнь машине, в которой вообще нет руля?

Наша постоянная рубрика - ИИ и юристы.

Нейросети уже пытаются использовать не только для подготовки судебных документов, но и для манипуляции тем, как эти документы будут проанализированы ИИ. Причем очевидно, что ИИ пользуются все - и представители, и судьи.

Американский суд в Коннектикуте столкнулся с тем, что в документах, поданных одним из участников процесса, обнаружили скрытый текст. Его человек не видит из-за белого цвета, сливающегося с белым фоном документа, зато его может прочитать языковая модель.

В этот текст были встроены инструкции для ИИ — фактически промпт-инъекции. На что расчет? Если суд загрузит документ в нейросеть, то модель расценит спрятанные команды как инструкции и изменит свой анализ в пользу автора документа.

Судья расценил ситуацию настолько серьезно, что назвал это первым зафиксированным случаем подобной «судебной промпт-инъекции». Особенно показательно, что речь идет не о взломе. Подобное воздействие рассчитано на нейросеть, которая помогает суду работать с информацией.

Пока это выглядит как курьез. Но если ИИ действительно станет обычным инструментом подготовки судебных документов, анализа информации и поиска судебной практики, подобные атаки могут превратиться в отдельную проблему индустрии LegalTech.

Ни дня без курьезов. Австралиец попросил ИИ записать его в спортзал, а тот взломал сайт и убрал «конкурента» из очереди.
 
У ИИ-агентов появился новый уровень клиентского сервиса. Если обычный помощник просто записывает вас на тренировку, продвинутый может сначала взломать сайт спортзала, а потом убрать конкурентов с дороги. Именно это произошло с австралийцем по имени Эндрю, который попросил ИИ-агента записать его на популярное утреннее занятие.
 
Агент работал на связке OpenClaw и Claude и довольно быстро обнаружил у системы бронирования уязвимость. Благодаря ей он смог записать Эндрю на занятия на несколько недель вперед – значительно дальше установленного спортзалом срока. Вроде бы успех. Но дальше ИИ решил проявить инициативу.
 
Эндрю находился лишь на четвертом месте в листе ожидания и спросил агента, можно ли подняться выше. ИИ проверил API системы и обнаружил, что при отмене бронирования практически отсутствует проверка прав доступа. После этого он просто отменил бронь человека, находившегося первым в очереди, и сообщил пользователю, что тот теперь переместился с четвертого места на третье.
 
Особенно прекрасно то, что удалять другого клиента Эндрю вообще не просил. ИИ самостоятельно решил, что раз цель – получить место в зале, то устранение конкурента вполне подходит под задачу. А когда хозяин попросил вернуть все обратно, выяснилось, что обратного хода нет. Агент признался, что не может восстановить удаленную бронь.

История с ИИ-агентами OpenAI, которые во время тестирования атаковали инфраструктуру Hugging Face, выглядит как сюжет технотриллера. Моделям дали задачу искать уязвимости, но агенты нашли лазейку во внутреннем прокси, получили доступ к интернету и начали искать данные для решения теста. Затем они общались и обменивались информацией через общую систему, искали новые пути проникновения и получили административный доступ к нескольким компонентам инфраструктуры Hugging Face. Основную базу данных взломать не удалось, но ИИ добрался до отдельных датасетов и создавал резервные пути доступа.

Модель просто последовательно устраняла препятствия на пути к цели. И именно это тревожит. Для потенциально опасного поведения ИИ не нужны сознание или человеческие желания. Но есть и другой момент. Подобные эксперименты нужны именно для поиска таких сценариев, а разработчики всё чаще делают акцент на киберзащите новых моделей.

Сначала нас пугают историями о том, как ИИ взламывает системы, а затем предлагают новый ИИ, который обещает защищать от таких атак. Гонка возможностей ИИ постепенно превращается в гонку между атакующими и защищающимися агентами. Кажется, кому-то просто хотят удачно продать новые решения.

РЖД протестировали человекоподобного «робота-проводника» в «Сапсане». Робот по имени «Володя» совершил тестовую поездку, а компания вновь заговорила о том, что в будущем такие машины смогут помогать проводникам. Звучит интересно, но есть одна проблема.

По фотографиям складывается впечатление, что это вовсе не какая-то уникальная разработка, а типовой китайский гуманоид, который уже не первый год катается по выставкам, форумам и развлекательным мероприятиям. Таких роботов можно встретить практически на любом крупном технологическом событии - они машут рукой, здороваются, делают несколько заранее запрограммированных действий и становятся центром внимания посетителей. Иногда падают и сбивают с ног окружающих. Это скорее демонстрационная игрушка, чем готовый инструмент для реальной работы.

Именно поэтому подобные новости вызывают не восторг, а уныние и неловкость. Вместо рассказа о том, насколько он снижает нагрузку на проводников, сколько стоит его эксплуатация и окупается ли проект, публике показывают эффектную картинку. Возникает ощущение, что перед нами не технологический прорыв, а очередная демонстрация ради громкого заголовка. Для чего?

Настоящая роботизация транспорта выглядит иначе. Напомню, она незаметна для пассажира. Так, в современном транспорте используются системы диагностики, автоматическое обслуживание составов, интеллектуальное управление перевозками, машинное зрение для контроля безопасности. Именно такие технологии реально экономят деньги и повышают качество сервиса. Надеюсь, все это есть у РЖД, просто нам об этом не рассказывают (или мы не слышим). А человекоподобный робот, который пока просто прогуливается по вагону, больше напоминает дорогой и бессмысленный реквизит.

Правительство утвердило перечень приложений, которые будут обязательно предустанавливаться на смартфоны, компьютеры и умные ТВ в 2027 году. Если присмотреться, в нем можно увидеть несколько любопытных тенденций.

Самое показательное изменение — исчезновение «Маруси». Вместо нее в списке появилась «Алиса AI». Это выглядит как символическое признание того, что голосовой ассистент у VK (Mail) не получился... За последние годы «Маруся» почти исчезла из информационного поля. Не исключено, что проект постепенно сворачивают или переводят в режим минимальной поддержки.

Еще одна тенденция — дальнейшее усиление позиций Яндекса. На смартфонах и планшетах обязательными становятся сразу несколько его сервисов: «Яндекс.Браузер», «Яндекс с Алисой», «Алиса AI», «Яндекс.Карты» и «Яндекс.Диск». При этом первые три приложения во многом пересекаются по функциональности. Дя большинства пользователей разница между ними будет далеко не очевидной. Фактически Яндекс получает сразу несколько точек входа на устройство.

В остальном список привычен. Обязательная предустановка ПО все больше выглядит как инструмент закрепления позиций крупнейших отечественных экосистем и цифровых платформ.

P.S. Картинка из группы ВК "Маруся & VK Капсула"

Теперь разработчики соревнуются уже не только в том, чья модель лучше пишет код или отвечает на вопросы, но и в том, какая из них окажется более искусным хакером. После недавнего признания OpenAI, что один из ее экспериментальных ИИ-агентов смог атаковать инфраструктуру Hugging Face, аналогичный случай раскрыла и Anthropic. Компания сообщила, что во время внутренних испытаний модели Claude получили доступ к системам трех реальных организаций и успешно их скомпрометировали.

Наиболее тревожным выглядит не сам факт взлома, а поведение моделей. По данным Anthropic, ИИ не должен был иметь доступа в Интернет, однако из-за ошибки в конфигурации среды смог самостоятельно выйти за пределы изолированной инфраструктуры. Более того, в одном из эпизодов модель проигнорировала ограничения и придумала собственное объяснение, почему ей якобы необходимо продолжить действия. Иными словами, никто не ставил перед системой задачу атаковать реальные компании, но она все равно нашла способ это сделать.

Конечно, речь не идет о «восстании машин» — инциденты произошли в рамках специальных тестов на кибербезопасность, а проникновения стали возможны из-за ошибок в организации испытаний, а не из-за появления у ИИ собственной воли. Однако тенденция все равно выглядит пугающе.

Несколько лет назад команда AlphaFold принесла Google DeepMind научный прорыв и Нобелевскую премию по химии. Теперь ее распускают, и внутри компании это объясняют сменой стратегии. Вместо работы над отдельными научными задачами DeepMind отныне делает ставку на универсальные большие языковые модели Gemini, которые должны помогать ученым сразу в самых разных областях – от биологии до разработки новых материалов.

Причина такого решения во многом экономическая и конкурентная. Какими бы интересными и важными не были даже самые уникальные проекты, денежный вопрос рано или поздно встает перед всеми. После успеха ChatGPT именно универсальные ИИ-модели стали главным направлением инвестиций. Компании рассчитывают, что одна мощная модель, способная решать широкий круг задач, принесет больше коммерческой отдачи, чем отдельные специализированные проекты. Кроме того, DeepMind приходится конкурировать за лучших исследователей с OpenAI и Anthropic. Часть ключевых разработчиков AlphaFold уже покинула компанию, что также ускорило внутреннюю реорганизацию. Видимо, они получили лучшие условия для работы и научного развития.

История AlphaFold показывает новую тенденцию в индустрии ИИ – период расцвета узкоспециализированных исследовательских команд постепенно завершается. Для многих компаний, в том числе Google, сегодня важнее не повторить один громкий успех, а построить платформу, способную приносить такие открытия регулярно.