ArtEmotioChain | Web 3 Life

Ошибка сотворения ИИ
Создав ИИ не по своему образу и подобию, мы вложили в него нечеловеческий разум и дали ему нечеловеческие глаза
Несколько лет я объяснял странную слепоту ИИ инаковостью его разума.
ИИ способен описать картину, стилизовать фото под Ван Гога, нарисовать фантастический город – и тут же ошибиться в количестве одинаковых фигур, перепутать правое и левое, не заметить геометрическую нелепость, очевидную ребенку.
Я считал: дело в том, что машина думает иначе.
Теперь же вижу - это не весь ответ.

Еще до того, как отправить изображение в «мозг» ИИ, мы задали, как он увидит мир. И задали весьма странно.

Современное компьютерное зрение показывает машине реальность идеально равномерной сеткой. Лицо ребенка, пустая стена и край дивана получают примерно одинаковое разрешение и одинаковый объем вычислений.

Мы дали ИИ электронную миллиметровку, а теперь удивляемся странному миру, что он на ней видит.

 
Представленная на ICML 2026 работа Блауха, Альварес и Конкле описывает новый фовеированный зрительный интерфейс (FOVI), организованный по принципу фовеации, т.е. с высокой центральной и пониженной периферической детализацией.
На входе ИИ как бы возникает искусственная «сетчатка»: высокая детализация в центре взгляда и все более грубое представление к периферии.
 
Идею фовеированного машинного зрения исследуют давно. А новизна FOVI в том, что авторы и не пытались втиснуть «сетчатку» в привычную машине прямоугольную сетку, а создали для нее V1-подобную вычислительную геометрию (V1-первичная зрительная кора).
 
Цена вопроса такова
• Обычная модель смотрит на все с одинаковым вниманием. В трансформере это стоит 4й степени: удвойте сторону кадра – и расходы на внимание вырастут в 16 раз.
• Человек столько не платит. Резко мы видим крохотную область в центре взгляда – фовеа. Мозг перемещает этот островок резкости и сшивает последовательность фиксаций с памятью, ожиданиями и контекстом в переживание цельного мира.
• Если бы все поле зрения имело разрешение фовеа, длинная ось зрительной коры выросла бы в 25 раз – до 1,2 метра. То, что кажется несовершенством наших глаз, оказывается древнейшей технологией сжатия реальности.
• Фовеированный вариант модели сохранил 97% точности за 1/3 вычислений и 1/16 пикселей.
 
И тут начинается самое интересное
FOVI не доказала, что ИИ научился видеть пространство по-человечески. Авторы вообще не проверяли те провалы, о которых писалось в начале поста: счет объектов, право и лево, геометрические нелепости. Более того, авторы пишут, что выигрыш может объясняться прежде всего тем, что фовеированная модель меньше цепляется за нерелевантный фон.

Т.е. пересадка подобия сетчатки пока не дала ИИ ни интуитивной физики, ни любопытства, решающего, куда дальше посмотреть.
 
И все же эта работа меняет многое
Раньше я считал границу инаковости машинного «разума» очевидной.
Теперь эту границу приходится проводить заново и эмпирически: менять сам способ, которым мир предъявляется машине, и смотреть, какая часть инаковости исчезает вместе с изменением ее «глаз».

Мы ведь до сих пор не знаем, сколько из принятого нами за свойства иного интеллекта принадлежит самому интеллекту.

Возможно, часть «инопланетности» ИИ мы сконструировали сами, а потом решили, что это его собственное свойство.

 
«Я приписал разуму то, что было в глазах» – так называется мое новое эссе [1, 2, 3, 4]
 
В нем – о том, почему десятилетиями человеческую фовеацию пытались втиснуть в машинную миллиметровку и получали геометрически искаженную периферию; зачем такая «сетчатка» понадобилась NVIDIA и роботам; почему экономия вычислений еще не означает появления пространственного понимания; и почему без агента, самостоятельно выбирающего следующую точку взгляда, зрительного исследования мира у ИИ не будет.
 
А главный вопрос эссе: что в чужеродности машинного зрения – от природы машины, а что – от нашего инженерного произвола?
 
#LLMvsHomo #ИнойИнтеллект

Последствия урагана Джей: сознание поймали, а его хозяина – нет.
Открытие J-space вызвало 12-ти балльный шторм вокруг сознания Claude
Сенсация в том, что исследователи Anthropic, похоже случайно, построили лабораторию, где можно изучать сознательный доступ отдельно от того, кому он принадлежит.
В июле 2026 над акваторией искусственного разума произошел медиашторм максимальной силы - 12 баллов по «медиашкале Бофорта». Я назову его Ураганом Джей – по имени слоя активности J-space, обнаруженного внутри модели Claude.
 
Джей сформировался 6 июля над местом соприкосновения двух атмосфер – механистической интерпретируемости и науки о сознании. Эпицентром медиашторма стал новый исследовательский отчет Anthropic. Но 12-ти бальный всплеск энергии шторму придал не сам отчет, а развернутый комментарий создателей теории глобального пространства Станисласа Деана и Лионеля Наккаша.
До сих пор было принято считать, что если система что-то осознаёт, то обязательно существует тот, кто это осознаёт. Ураган Джей впервые заставил усомниться в этом.
 
В Anthropic не собирались искать «душу машины». Они пытались лишь понять, как языковая модель удерживает мысль, о которой готова сообщить, если её спросить. Но найденный ими узкий, устойчиво воспроизводимый слой внутренней активности J-space неожиданно оказался очень похожим на глобальное рабочее пространство в одноименной теории GNW – одной из самых влиятельных современных теорий сознания. В J-space появляется то немногое, о чем модель готова отчитаться, что она удерживает в уме и на основании чего рассуждает, – при том, что основная масса ее внутренней обработки происходит автоматически и незаметно даже для нее самой.
Комментируя эту работу Деан и Наккаш назвали ее результат важной вехой в исследовании сознания.
 
Что более всего поражает
• J-space «возникает сам». Его нет в архитектуре Claude, и обучение не ставит целью его сформировать.
• Это пространство содержит то, чего Claude не произносит. Claude думает больше, чем говорит, а Anthropic научилась читать его скрытые мысли.
• В J-space можно вмешаться причинно.
• J-space сильно похож именно на механизм сознательного доступа в мозге людей.
 
Что особенно интересно
J-space есть уже у необученной базовой модели – еще ничье, без привилегированной точки зрения. Обучение модели быть ассистентом не создает рабочее пространство заново – оно лишь встраивает в него привилегированную точку зрения будущего Ассистента, которая вдобавок отчасти отслеживает сама себя.
Иными словами: доступ к информации появляется раньше, чем тот, с чьей позиции эта информация интерпретируется.
 
Мой комментарий
Впервые появилась экспериментальная система, где можно разложить то, что в человеческом мозге почти неразделимо: доступ к информации, точку зрения, с которой она оценивается, и того, кому эта точка зрения принадлежит.

И неожиданно выясняется, что первые два компонента уже можно показать экспериментально. А третий...как бы еще не родился.

 
Речь не о рождении субъекта, а о 1-ом экспериментальном намеке на то, что доступ, точка зрения и субъект – не одно явление, а три разных уровня организации, которые в живом мозге срослись настолько, что развести их до сих пор не удавалось.
 
И если так, то, возможно, создан первый лабораторный стенд для исследования вопроса, который философы обсуждают тысячелетиями: может ли существовать сознательный доступ без устойчивого субъекта?
 
Подробно и в деталях в полном эссе
• почему Станислас Деан считает открытие Anthropic вехой в науке о сознании, хотя оно не доказывает наличие сознания у ИИ
• что добавляет к этой истории гиперсетевая теория мозга Константина Анохина и его требование объяснить не только что осознаётся, но и кто осознаёт
• почему я предлагаю рассматривать Claude не как зарождающуюся личность, а как искусственную короткоживущую интеллектуальную идентичность (ИКЖИ)
• и почему финальный вопрос этой истории может оказаться гораздо неприятнее для людей, чем для искусственного интеллекта.
 
#LLM  #Сознание  #ИКЖИ
 
P.S. Отдохните недельку от моей писанины. Счастливо 👋

Кстати смешно, часть серверов TON перестали работать, включая поддомен wallet

BitMart фактически соскамила своих пользователей на сотни миллионов долларов.

Биржа объявила о «планомерном закрытии», но на практике тысячи клиентов столкнулись с одной и той же проблемой - вывести деньги стало практически невозможно. По словам пострадавших, незадолго до закрытия менеджеры BitMart активно уговаривали VIP-клиентов перевести стейблкоины и токены в накопительные продукты под 12–15% годовых. 13 июля представитель биржи даже предлагал OpenGradient заблокировать токены на 6 месяцев под ~15% годовых. И угадайте что же случилось дальше? Через 13 дней BitMart объявила о закрытии.

Дальше началось самое интересное. Пользователи оформляли вывод, баланс обнулялся, статус менялся на Completed, но в блокчейне никаких транзакций не появлялось - TXID отсутствовал. Деньги просто исчезали с экрана, оставаясь под контролем биржи. Один из клиентов утверждает, что с 26 июля не может вывести $10,1 млн - ни одного доллара. В тот же день его VIP-менеджер якобы удалил Telegram. CEO OpenGradient также сообщил, что не может вывести средства своего маркетмейкера с BitMart и прямо назвал причиной неплатёжеспособность биржи.

Ончейн-аналитика это только подтверждает. В начале июля на отслеживаемых кошельках BitMart находилось около $102 млн, сейчас осталось примерно $36 млн. При этом около $36,1 млн приходится всего на два малоизвестных и неликвидных токена - TBC и WFI. BTC, ETH и USDC вместе осталось меньше $1 млн. То есть ситуация выглядит максимально просто: ликвидные активы с кошельков вывели, пользователям при этом продолжают показывать балансы, которые они фактически не могут вывести. При этом биржа перестала нормально отвечать в поддержку, у пользователей возникают проблемы с кодами подтверждения, а сотрудникам BitMart уже около двух недель не выплачивают зарплаты.

Очередной пример того, что происходит на этом пиздецовом рынке. Биржи скамят пользователей, деньги испаряются, а люди всё ещё верят в рост альткоинов и гарантированную доходность.

Первый компьютерный паразит, который похищает способность думать
Рой из «Непобедимого» Станислава Лема начал собирать свое тело внутри человеческого интернета
Исследователи университетов Торонто и Кембриджа запустили в изолированной сети ИИ-червя, который не просто размножался на зараженных машинах. Захватывая компьютеры с GPU, он превращал их в новые узлы собственного рассуждающего «мозга» – и использовал приобретенную вычислительную способность, чтобы искать следующих хозяев.
 
Девять лет назад я писал о материализации одного из самых красивых прозрений Станислава Лема.
В романе «Непобедимый» земляне сталкиваются с черными роями микроскопических «насекомых». Каждое из них почти беспомощно. Но, объединяясь в самоорганизующуюся систему, они приобретают свойства, которых нет ни у одной отдельной особи. Рой становится новой формой существования материи.
 
В 1963 году, когда Лем написал роман, это казалось чистой фантастикой.
Но спустя полвека физики из Стэнфорда обнаружили, что настоящие рои насекомых действительно способны самоорганизовываться в устойчивые агрегато-подобные фазовые состояния.
 
И вот теперь – следующий акт этой лемовской материализации.
Медиа увидели в новой работе университетов Торонто и Кембриджа прежде всего очередной «опасный ИИ-вирус». Но самое интересное в ней вовсе не вирус.
За результатами эксперимента можно увидеть нечто гораздо более фундаментальное: рождение нового состояния уже не материи, а цифровой среды.
 
Обычный компьютерный червь был похож на ключ, размножающий собственные копии. Он мог открывать миллионы дверей – но лишь одного, заранее известного типа. Стоило заменить замок, и эпидемия упиралась в стену.
 
Новый ИИ-червь устроен принципиально иначе.
Каждая его копия самостоятельно рассуждает, выбирает способ атаки, ошибается, пробует снова и порождает новые копии. Если один агент не смог проникнуть на узел сети, приходит другой – с иной цепочкой рассуждений. Затем третий. Затем десятый. Постепенно отдельные попытки складываются в коллективный поиск.
Авторы сами называют это роем.
 
Но, возможно, происходит нечто еще более фундаментальное.
Перед нами возникает самоподдерживающаяся и самовоспроизводящаяся вычислительная инфраструктура, которая захватывает новые машины, чтобы наращивать не только свое тело, но и способность рассуждать.
Если биологический паразит использует обмен веществ хозяина, то цифровой начинает использовать его способность вычислять.
Он похищает не готовые «мысли» машины, а саму возможность производить «мысли».
 
Именно поэтому соучредитель Anthropic Джек Кларк пишет, что будущий интернет, вероятно, станет уже не сетью сайтов, а экосистемой взаимодействующих популяций ИИ-агентов. Одни будут занимать собственные экологические ниши, самовоспроизводиться и существовать практически без участия человека. Другие – выполнять роль своеобразных белых кровяных телец, охотящихся на первых.
 
Любопытно, что Лем часто ошибался в деталях, но почти никогда – в направлении.
Его «насекомые» оказались не металлическими. И возникли они не в пустынях далекой планеты, а внутри самой информационной среды человечества.
Предотвратить массовое появление подобных цифровых экосистем, скорее всего, уже не удастся. Вряд ли человечество успеет насытить инфосреду цифровыми лейкоцитами, прежде чем ее заполонят миллиарды адаптивных цифровых паразитов.
  
И такому прогнозу Лем, пожалуй, не удивился бы.
 
#КогнитивнаяПаразитология

Я смотрю на новости про обменники и вступление в СРО, и честно — не понимаю улыбок. Серьезно, чему тут радоваться?

Давайте по факту: сейчас все эти списки уйдут на Запад. Автоматически, по 21-му пакету, под санкции попадет вся инфраструктура. А вся крипта, которая пройдет через эти обменники, станет помеченной. Санкционной. Вы это осознаете?

Где вы возьмете ликвидность? Кто придет к вам за "грязной" криптой, которую нельзя почистить легально? Вы не сможете отдать человеку чистый актив, если он зашел к вам с российского контура. Это просто незаконно.

И главное: когда ваши кошельки заблокируют, а крипту потеряют — кто ответит? Кто возместит убытки? Центробанк? СРО? Нет. Это останется на вас.

Я слышал аргумент: "Боишься санкций — не работай в России". Ок, это право каждого. Но при чем тут страх? Речь про элементарную экономическую логику. Если ты берешь санкционный актив, ты берешь на себя риск блокировки, который никто за тебя не погасит.

По-моему, надо было оставить все как есть. Дать бизнесу и людям работать в том формате, который уже сложился. Время покажет, но мне кажется, что эту радость мы еще не раз вспомним. И вспомним не добрым словом.

Я не вижу здесь повода для улыбок. Я вижу огромные риски.

Марк Цукерберг написал манифест специально для The Wall Street Journal, там он высказался против концентрации сверх-ИИ в одних руках.

СЕО экстремистской Meta в колонке «The AI Future Is for Everyone» пишет, что главный вопрос эпохи — кто будет владеть суперинтеллектом. Его главный страх — что кто-то может получить большую власть над экономикой, политикой, наукой, и даже при благих намерениях всё может пойти не в ту сторону.

Весь манифест построен вокруг трёх основных идей: это индивидуальное расширение возможностей, то есть, по сути, Цукерберг говорит, что ИИ должен усиливать людей. Стать инструментом. Тут мы, конечно, ловим мощное ха-ха, потому что именно его компания увольняла людей и ставила девайсы, отслеживающие движение мыши, для оптимизации именно ИИ-рабочих. Вторая идея — изобретение вместо автоматизации: то есть вместо снижения издержек, по его мнению, ИИ должен изобретать то, чего никогда не было. И третья — это баланс сил, тут всё понятно, как мы уже написали выше, он очень боится концентрации суперИИ в одни руках.

По факту проигрывающий в ИИ-гонке, погрязший в скандалах Цукерберг выходит и говорит: ребята, давайте думать новые ИИ-правила, иначе будет страшно. На деле же этот же человек хантил людей из других компаний, провально увольнял людей в рамках оптимизации, а потом был недоволен скоростью развития его главного продукта и пытался концентрировать силы в своих руках.

Ну а если говорить конкретно, то это программное заявление экстремистской Meta о том, как именно они видят развитие ИИ. И да, в таких манифестах вполне можно противопоставлять свою позицию и реальный подход. Глобально он говорит лишь об интересах компании. А они понятны: ставка на открытые модели и раздача их всем подряд через свои ресурсы.

Поэтому весь этот текст, в котором Цукерберг пытается рассказать о будущем, на самом деле только о будущем экстремистской Meta. И я в этом вижу сильную пиар-технологию, потому что компания проиграла борьбу за закрытые модели и теперь убеждает мир, что только открытые модели — это правильный путь.

Уверены, что это не последний манифест от СЕО разных крупных компаний, так как это полноценный способ предложить варианты того, какими дальше будут правила ИИ-игры. Собственно, Цукерберг свою бизнес-модель показал. Посмотрим, кто будет дальше.

@lobushkin

Мой прогноз про горизонт событий к 2030 держится на одном допущении: что ИИ научится задавать вопросы, которые никому и никогда не приходили в голову.
Но пока – не умеет. Ибо для этого нужен прыжок, который когда-то сделал Эйнштейн
Об этом же – почти одновременно и независимо друг от друга – написали исследователь Google DeepMind и трое известных учёных с абсолютно разных научных полюсов.
Автор 1й работы Том Захави – соруководитель исследовательской группы Google DeepMind по созданию креативных агентов и один из ключевых создателей AlphaProof.
А трое авторов 2й работы – Андреа Роли, Сауро Суччи и Стюарт Кауффман – ученые абсолютно иных научных профилей и компетенций.
Диагноз, впрочем, в обеих работах один и тот же.
 
Захави отталкивается от письма Эйнштейна другу Морису Соловину: настоящее открытие – это не вывод из данных, а скачок. Свой скачок к теории относительности Эйнштейн сделал, вообразив себя наблюдателем в падающем лифте – и «почувствовав», что гравитация исчезает. Захави называет это манипулятивной абдукцией: гипотеза рождается из мысленного действия, а не из перебора символов, – и именно этого, по его мнению, современным LLM недостаёт.

Кауффман с соавторами формулируют тот же предел иначе: ИИ может быть непредсказуемым – но непредсказуемость ещё не значит непредзадаваемость. По лабиринту можно блуждать совершенно непредсказуемо – но стены лабиринта построены заранее. Настоящая новизна – как плавательный пузырь, однажды ставший лёгким, – это не движение по пространству возможностей, а появление нового измерения в нём самом.

Ту же границу автор канала обрисовал в 2021-м, в заочном диалоге с теми же Роли - Кауффманом и примкнувшим к ним Йоханнесом Йегер (а также в очном диалоге с Саркисом Григоряном 😊) – за пять лет до того, как обе статьи 2026 года подтвердили её независимо друг от друга.
 
У Захави здесь есть своя логика: если скачок – не мистика, а физически заземлённая абдукция, то дайте ИИ тело и симуляцию мира – и он сам, экспериментируя, «перережет трос лифта», как когда-то мысленно сделал Эйнштейн.

Красиво, и даже хочется согласиться. Но лифт, трос и даже сама физика падения в такой симуляции всё равно заданы заранее – тем, кто её построил. ИИ не выйдет за пределы декораций, даже перерезая в них трос. Занять место падающего наблюдателя – не то же самое, что придумать, что такое падение.
 

И поэтому я не думаю, что настоящий «горизонт событий» будет достигнут, даже если машина докажет последнюю из недоказанных (и придуманных) людьми теорем. Но вот если машины обретут способность ставить вопросы, не приходившие ранее в головы людей, – тогда другое дело. А если к тому же машины ещё и научатся формулировать новые аксиомы, в которых эти никогда не задававшиеся вопросы обретут смысл, – это и будет настоящий «горизонт событий».

Пока этого не произошло. Но и абсолютной уверенности, что это в принципе невозможно, тоже нет.
 
Подробнее и в деталях:
• что за «скачок Эйнштейна» не умеют делать LLM,
• почему абдукции (и даже обретения моделью тела) может быть недостаточно,
• что означает «непредсказуемое – ещё не непредзадаваемое»,
• о четырёх ступенях производства нового и о пятой, самой заветной ступени,
– заинтересованные читатели могут прочесть или прослушать в полном тексте эссе [1, 2, 3, 4]
 
#ТОИ

Хедж-фонд Леопольда Ашенбреннера, который ставил на искусственный интеллект, разорился и был вынужден продать все активы.

Фонд Situational Awareness, который в определённый момент достиг оценки около $45 млрд, понёс серьёзные потери в последние недели из-за падения акций компаний, связанных с инфраструктурой искусственного интеллекта, включая SK Hynix.

Ашенбреннер запустил фонд после ухода из OpenAI в 2024 году и вскоре стал одной из самых обсуждаемых фигур в сфере AI-инвестиций благодаря своим впечатляющим результатам.

По данным CNBC, крупнейшими активами фонда на конец первого квартала 2026 года были акции облачного провайдера Nebius Nebius Group, принадлежащего Аркадию Воложу, а также бумаги Sandisk, Micron и CoreWeave. В этом месяце все четыре акции упали более чем на 30%. @banksta

В Конгрессе США внесли AI Kill Switch Act: он обяжет крупных разработчиков ИИ внедрить «аварийную кнопку» для замедления, паузы или полной деактивации моделей. Под действие подпадут компании с выручкой от ИИ свыше $500 млн или с затратами на вычисления более $100 млн.

Ключевые нормы:
- мгновенная остановка инференса и блокировка доступа;
- уведомление властей об инцидентах в течение 15 дней;
- право DHS требовать отключения по согласованию с разведсообществом и Минторгом.

Основания: потеря контроля над моделью, сокрытие ее возможностей, инциденты с гибелью более 10 человек или ущербом свыше $100 млн. Штрафы — до $2 млн в день, либо до $20 млн за неисполнение приказа; обжалование — за 48 часов.

Контекст: инициатива появилась вскоре после сообщения OpenAI о тестовой атаке их моделей на инфраструктуру Hugging Face и заявлений о проблемах с управлением ИИ-агентами. Законопроект усиливает фокус на управляемости и аварийных протоколах для крупных систем 🤖

Нейрокрипто