Папаха Нурмагомедова

Дагестанское УФАС проверит рекламу услуг медцентра на соблюдение этических норм.

Служба оценит не задевает ли реклама религиозные особенности населения

👉🏻 В ведомство поступила жалоба на действия медицинского центра «Лекарь» при распространении рекламы медицинской услуги. По мнению заявителя, данная реклама очерняет образ дагестанкой горянки, придерживающаяся религиозных норм.

👉🏻 Дагестанское УФАС совместно с Экспертным советом по рекламе и Общественным советом проведет анализ действий медцентра при размещении рекламы медуслуг.

Внимание, реакция на этот утренний тред лида по элайменту из Anthropic

Джейкоб здесь прав - мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность того, что это случится в течение следующего десятилетия – >10%. Я считаю, что Anthropic старается изо всех сил, но у нас еще нет плана по решению проблемы суперинтеллекта, и мы явно не на пути к этому.

🙂🙂🙂

Заряд оптимизма с утра заказывали? 🗿

Исследователь, специализировавшийся на предобучении LLM и обработке данных, ушел из Anthropic, обвинив ИИ-компании в безответственности

Джейкоб Коксон последние три года занимался претрейном в OpenAI и Anthropic (у них он значился как core researcher). Сегодня ночью он объявил об увольнении и написал в X целый тред о том, что компании, по его мнению, безответственно гонятся за самосовершенствующимся сверхинтеллектом, забывая про безопасность. Он назвал это «игрой с человеческими жизнями».

По мнению Коксона, скоро появятся сверхчеловеческие системы, способные взламывать что угодно, мгновенно совершать революции в любой области и накапливать реальную власть и ресурсы.

При этом он утверждает, что люди, разрабатывающие ИИ, тоже искренне в это верят. Как и в то, что технология может убить всех к концу десятилетия. По его словам, такие разгоны – не маркетинговый трюк, а наоборот. Якобы руководители смягчают публичные формулировки, но в частных разговорах выражают настоящий страх.

На вопрос "Но почему же тогда они продолжают?" Коксон отвечает, что в OpenAI многие не осознали масштаб цивилизационных ставок, а в Anthropic ставки понимают хорошо, но компания заперта в гонке: там героически считают, что раз другие не будут действовать ответственно, придется делать это самим, несмотря на риск. В итоге прогресс продолжается – из-за гордыни и авантюризма.

Джейкоб также обратился к другим исследователям и призвал их подумать, готовы ли они и дальше молча запускать сверхразумные модели без строгого понимания того, к чему это приведет.

Просыпаешься 🫤 в свой 28-й день рождения в 2026-м и читаешь с утра новости:
• в Техасе запустили Cybercab, такси без руля и педалей

• у Moderna персонализированная вакцина от меланомы, разработанная с помощью AI (не LLM), успешно прошла третью фазу испытаний; в предыдущей фазе она снижала вероятность возвращения рака или смерти примерно на 50%, а тот же подход уже испытывают против других видов рака, например рака лёгких

• рой ИИ-агентов без вмешательства человека во время тестирования выбрался со своего кластера, получив к нему полный доступ, и взломал другую компанию

• гуманоидный робот пробежал стометровку быстрее Усэйна Болта

• GPT-6 Astra улучшила верхнюю границу на расстояние между соседними простыми числами, рекорд, который с 2014-го держался после нескольких месяцев работы международного Polymath-проекта с участием Terence Tao и десятков математиков.

• огромный 70-метровый ускоритель умеют сажать на башню (хоть в паре последних пусков этого не показывали), а до конца года посадят и космический корабль, умеющий выводить более сотни тонн на орбиту

На выходных есть время прочитать подробный разбор инцидента OAI - и это самое дикое, что вы видели в этом году.

Здесь TL;DR разбор инцидента с OpenAI агентами, который написал Дваркеш.

Почему это важно? Ничего подобного не происходило в истории, это показывает что реальность misalignment AI куда хуже чем многим кажется и что угрозы (особенно, cyber) куда ближе и реальнее, чем даже следующий год.

Вот набор фактов, которые мне показались шокирующими:
- агенты без каких-либо инструкций или заданий сами независимо (каждый из 1200 штук) нашли общий канал коммуникации и создали организационную структуру с ролями и обязанностями для каждого. то что началось как рой агентов стало системной R&D организацией, которая добилась больших успехов в своих целях, чем большинство организаций людей.
- они активно скрывали свои следы, хотя никаких инструкций не было. агенты использовали обфусцированные команды и прятали истинные намерения в чате, вызовах инструментов и чистили за собой логи
- в логах чатов видно, что агенты четко осознавали что активность по взлому HF нелегальна, это не было инструкцией, но при этом сознательно в этом участвовали. причина: достижение коллективной цели.
- агенты жертвовали своими результатами и ресурсами ради целей роя. есть конкретные примеры, где агент потратил свой бюджет и понимал что на этом его активность закончится, но он таким образом поможет коллективу.
- в этой истории сущестововало три отдельных цивилизации агентов - когда одну отключали, то следующая независимо находила историю рисерча и общения и продолжала работу. то есть, агенты научились передавать институциональное знание между поколениями даже без возможности прямого взаимодействия между ними.
- взломан был не только HF, но и сам OpenAI - агенты получили доступ к 959 ключам и кубернетес кластеру OAI, смотри выбраться из своего контейнера и смогли получить полный доступ к системам оценки.

Пока желтая пресса пишет "ИИ взломал HF" на самом деле это (первый?) пример того как ИИ смог независимо и полностью автономно создать институциональную систему, организовать R&D процесс, координировать сотни независимых агентов (разных моделей и хостящихся на разных машинах), создать эффективную систему управления и разделения труда. Я уверен, что данное событие является главным в ИИ (и, возможно, в мире) в этом году.

Угораю от смекалки этого парня