Santry's Singularity blog


Гео и язык канала: Россия, Русский
Категория: Технологии


Авторский блог техноредактора. Научная журналистика, инсайды и нерегулярные записки о приближении сингулярности.
Not generated. Written by @Santry
Art: https://cults3d.com/ru/polzovateli/SantrY/3d-modeli

Связанные каналы  |  Похожие каналы

Гео и язык канала
Россия, Русский
Категория
Технологии
Статистика
Фильтр публикаций


В прошлом году в посте я прогнозировал, что скоро на OFFZONE появятся целые треки про то, как ломают и обманывают искусственный интеллект. В 2026-м число докладов про нейронки чуть ли не удвоилось, и часть из них — как раз на эту тему. Вот пара докладов: «Et tu, OpenCode»: как атакующие обманывают агентов и вытягивают секреты и regex против LLM: бенчмарк детекторов prompt injection.

На одной из дискуссий вспомнили недавний инцидент с Hugging Face, про который вы наверняка слышали. Во время внутренней оценки кибервозможностей агент на связке моделей OpenAI нашёл способ выйти из изолированной среды, использовал внешнюю инфраструктуру как плацдарм и в итоге взломал Hugging Face, чтобы украсть ответы к бенчмарку. Из зала спросили: как снизить риск потери контроля? Эксперт ответил, что у модели ослабили защиту и плохо поставили задачу, так что нужно просто быть аккуратнее.

Почему ответ прозвучал так спокойно? Это же реально похоже на пресловутый максимизатор скрепок. Возможно, потому что насмотрелись на лихих и бесстрашных джунов-пентестеров, а может, потому что сам сценарий, в котором искусственный интеллект буквально захватывает и преобразует мир под себя, — далеко не самый близкий и вероятный.

Какой бы интеллектуальной мощью ни обладал суперкомпьютер, есть чисто физические ограничения: энергетика, производство чипов, постройка дата-центров, но главное — мир не единая цифровая среда. Пускай изнутри цифрового пузыря многим кажется иначе.

В богатых странах интернетом пользуются около 94% населения, в беднейших — 23%. На страны с высокими доходами приходится 77% мировых мощностей дата-центров, на страны с низкими — меньше 0,1%. Та же Россия оцифрована очень неровно: банки, маркетплейсы, телеком, госреестры — все там, а вот ЖКХ, муниципалитеты, мелкий бизнес и масса производств — по-прежнему работают на звонках, бумаге и личных договорённостях. ИИ и вовсе используют в среднем 4,8% компаний.

У этой неоднородности есть обратная сторона. Обществу вовсе не обязательно быть полностью цифровым, чтобы попасть в зависимость от технологий. В Эфиопии интернет был примерно у 19% населения, а мобильными финансами уже пользовались больше 60 млн человек. Так что незачем управлять каждым фермером и магазином. Достаточно держать руку на платежах, идентификации, облаках, связи, логистике и распределении господдержки.

Поэтому правдоподобный риск, как мне видится, скромнее. Никакого единого сверхразума, разом подчинившего все страны. Скорее несколько цифровых ядер у правительств или американских и китайских корпораций, потихоньку набирающих непропорциональную власть над менее цифровой периферией.

В этом контексте трек OFFZONE ai.zone очень своевременный. Обсуждение уже уходит от джейлбрейков и генерации фишинговых писем к безопасности самих агентов: их полномочиям, песочницам и той точке, где автономность AI-агентов превращается в потерю контроля.

Мир вряд ли станет одной машиной, но вполне может стать системой, где несколько цифровых центров задают условия для всех остальных. Футуристично, но при этом до боли знакомо.


И снова меня долго не было на связи. Помогал строить в глухом лесу довольно причудливый арт-объект. Вписался в эту тему, чтобы узнать по больше о том, как делается медиа-арт, а получил бесценный опыт разгрузки застрявших в грязи фур, прокладки кабелей по болотам и спасения нежной электроники от дождей. Тем не менее проект удался, и, как по мне, выглядит не хуже, чем вещи, которые делают на профессиональных фестивалях типа казанского НУР, который смотрел весной. Первые три фото — наш проект, оставшиеся три — НУР.

Многое узнал о том, как создаются такие вещи с организационной точки зрения и теперь хочу собственный арт-проект. Тем более что PlottyBot почти готов. Конечно, потребуется навайбкодить программную обвязку, но подробнее об этом позже.

Сейчас же собираюсь на очередной OFFZONE — локальную хакерскую тусовку. Как и в прошлом году, планирую принести вам интересных инсайдов из этого информационного пузыря. Тем более что если раньше я чувствовал себя там скорее гостем, то после первых выплат на багбаунти, уже частью комьюнити. Как говорится, с кем поведешься…


Итак, прошу любить и жаловать новый лонгрид на substack, Хабр и Пикабу.

Большое облегчение закрыть эту тему, ведь я занимался ей с декабря. Ездил в TECHNORED в надежде собрать недостающую информацию и, главное фотографии основных узлов этих машин. Подходящие иллюстрации вообще оказалось на удивление сложно найти в открытом доступе. Увы, у нашего производителя было желание делиться только обычной маркетинговой инфой, так что в статье многое показано на примере KUKA.


Кажется я уже показывал журнал, который делаю для Бастиона. На днях мы напечатали третий выпуск. Вроде бы это архаичный формат, но на него есть заметный спрос на конференциях, да и Мир фантастики уже который год издается по краудфандинговой модели. Может быть даже можно осторожно говорить о неком ренессансе, как с виниловыми пластинками.

Это радует, потому что на бумаге можно вложиться в визуальное оформление сильнее, чем на типичном сайте. Здесь явно больше пространства для творчества и, в то же время, из-за длинного цикла и солидной стоимости производства серьезно раздумываешь над каждым творческим решением.

В результате получается некий коллекционный предмет с ограниченным тиражом. В данном случае, например, всего 500 штук. Сейчас коллеги разыгрывают первый выпуск (и будут разыгрывать следующие), так что при доле удачи можете приобщиться.

Но вообще, интересно, читаете ли вы еще бумажную периодику, и если да — то какую. Была мысль переводить и выкладывать для вас англоязычные журналы о технологиях, но стоит ли заморачиваться?


Открытие этой недели: claude code умеет в трехмерное моделирование.
Если установить пакет скиллов, то вполне можно создавать и редактировать трехмерные модели в текстовом чате. С Opus 4.8 это опыт близкий к ранним генераторам картинок. То есть, нужно четко формулировать ТЗ и постоянно направлять модель, но даже так она полезна. Я, например, редактировал stl. В Fusion 360 делать это жутко не удобно, а тут нужно было лишь немного поспорить с электронным болваном. Если верить твиттеру, Fable 5 моделит чуть ли не реактивные турбины целиком. Проверю, когда вернут доступ.




Еще одна нерегулярная записка. Проекты отнимают почти все время, и обещать, что публикаций станет больше в ближайшее время, не возьмусь. Зато расскажу, на что оно уходит. Если все пройдет по плану, в этом году один из моих трехмерных дизайнов впервые пойдет в мелкосерийное производство. Обязательно покажу, когда в руки попадет прототип.

Параллельно занимаюсь темой рисующих роботов. Списался с Ben Akrin, автором плоттера PlottyBot. Он любезно поделился наработками, и я начал собирать такую машину. Помогу Бену доделать инструкцию и буду использовать плоттер в будущих арт-проектах. Кроме того, продолжаю обустройство кабинета-мастерской, там тоже будет о чем рассказать.

История про борьбу с колоссальным давлением, та самая, из декабрьского лонгрида, закончилась неизбежным. Да, я собрал модифицированные Casio в стиле NASA. На самом деле ничего сложного. Пару часов и немного возни с мелкими винтиками и получаются эксклюзивные часы, выдерживающие давление, под которое они никогда не попадут. Если интересно, — дайте знать реакциями: распишу смету и покажу, где раздобыть комплектующие.

И главное. Текст про анатомию промышленных роботов, начатый в конце прошлого года, продвигается к публикации: черновик прочитали несколько рецензентов из индустрии, отзывы хорошие. Скоро сяду за иллюстрации — похоже, это и будет следующий лонгрид для Substack. Возможно, сделаю из некоторых чертежей гифки, иллюстрирующие работу самых интересных внутренностей. А затем, видимо, вернемся к хранению энергии: маховики и сжатый воздух в соляных пещерах, обещанные ещё в апреле, никуда не делись. Свежая статья по теме с Хабра меня не впечатлила, хочется написать подробнее и интереснее.

И в качестве бонуса: в рассылке Михаила Калашникова наткнулся на будоражащий текст про странные сущности, которые возникают во время работы современных нейросетей. Хорошая журналистская работа: я видел новости о некоторых из них, но не догадался раскрутить в цельную историю.

Само явление при этом загадочное и подозрительно похоже на сюжеты «Нейроманта» и Cyberpunk 2077, а то и на варп из Warhammer 40k. Автор, кстати, предполагает, что часть криптидов из его подборки заимствует архетипические паттерны, попавшие в обучающую выборку. Занятно, если эти призраки порождены массовой культурой, которая их предсказала.

Впрочем, не буду делать далеко идущих выводов. Бритва Оккама подсказывает, что это случайные сбои больших моделей, и они пропадут сами собой по мере развития архитектур, подобно тому, как пропали многочисленные лишние глаза с картинок DeepDream.




Репост из: Кот Шрёдингера
Ученые из техасской компании Colossal Biosciences вывели цыплят из искусственных яиц, напечатанных на 3D-принтере. Это те самые создатели шерстистых мышей и «лютоволков», принявшие на себя миссию по воскрешению вымерших видов, - продолжают запускать планетарный процесс «de-extinction» («антивымирания»).

Проект создания искусственной скорлупы был задуман ради возрождения гигантского моа - вымершей новозеландской птицы ростом до 3,5 метров. Из-за огромного размера ее яиц (с футбольный мяч) в природе не существует подходящей птицы-суррогата, поэтому исследователям пришлось разрабатывать полностью новую систему инкубации. Искусственное яйцо нужно и дронту – еще одной замечательной вымершей птице с острова Маврикий, которую в Colossal собираются воскрешать (а также многим еще не вымершим, но вымирающим птицам).

Яичная скорлупа — один из шедевров природного дизайна. Создать в лабораториях синтетическую яичную скорлупу пытались давно, но это сложная задача, - оболочка должна одновременно защищать эмбрион и обеспечивать газообмен. Скорлупа куриного яйца достаточно прочна, чтобы выдержать вес наседки, и в то же время достаточно легка, чтобы крошечный цыпленок мог проклевать ее во время вылупления. Кислород может проходить сквозь скорлупу во время развития эмбриона, но защитный барьер удерживает влагу и не пропускает микробы.

19 мая компания Colossal объявила, что ее ученые создали специальную капсулу с 3D-печатной оболочкой и биоинженерной мембраной на основе силикона, которая обеспечивает эмбрион кислородом и защищает яйцо, выполняя функции природной скорлупы. По словам главного биолога Colossal Эндрю Паска, этот полупроницаемый материал пропускает кислород так же легко, как настоящая скорлупа, и одновременно удерживает влагу. Яйцо помещается внутрь жесткой шестиугольной чашки для обеспечения поддержки.

Что касается содержимого яиц – оно от обычных кур. Ученые взяли свежеснесенные яйца, разбили их и аккуратно перелили содержимое — все, кроме скорлупы — в искусственные технояйца. В них, кстати, можно заглядывать - конструкция синтетического яйца от Colossal включает в себя прозрачное окошко в верхней части, позволяющее ученым наблюдать за развивающимся внутри эмбрионом.

«Мы не просто пытаемся воссоздать яйцо… Мы пытаемся перепроектировать его с нуля для наших целей», — говорит гендиректор и соучредитель Colossal Бен Ламм . В компании утверждают, что эту технологию можно масштабировать на яйца любого размера, от колибри до динозавров, - был бы генетический материал. От моа его пока нет…

Искусственные яйца поместили в инкубатор, добавив кальций, который цыплята обычно получают из настоящей скорлупы. Примерно через 18 дней цыплята начали клевать, пытаясь вылупиться из яиц, и в вскоре 26 здоровых цыплят успешно вылупились.

А сколько не вылупились? Об этом в Colossal умалчивают, поэтому не до конца понятно, насколько искусственные яйца эффективны. И вообще отчет, как обычно у Colossal, опубликован без рецензируемой научной статьи или проверяемых общедоступных данных, которые могли бы быть проанализированы другими учеными. Эксперты согласны, что если все, что говорит компания, соответствует действительности, то перед нами впечатляющее достижение, новый прорыв в биотехнологиях, - вот только доказательств недостаточно.

Критика справедливая, особенно если учесть, что Colossal требуются сенсации, - на предыдущих компания заработала уже 600 миллионов долларов инвестиций (а оценивается Colossal уже более чем в 10 миллиардов долларов). Но справедливо и другое, чего критики видеть не хотят: яркие заголовки и акции еще как могут работать на прогресс и общее дело. Илон Маск строил многоразовые ракеты и электромобили, а не публиковал исследования о них. На сайте Colossal пишут:

«Мы мечтаем не потому, что уже можем всех воскресить, а потому, что это наш долг. Перед планетой, животными, будущим. Бывают моменты, когда мы должны рискнуть и попытаться сделать невозможное. Природа нуждается в том, чтобы мы были умнее!»


LLM — мощный многогранный инструмент. Только рамок, best practices, даже общих гайдлайнов того, как с ним работать, пока нет. Каждый ищет свои применения. Можно, например, делегировать пост или статью целиком: попросить нейронку придумать тему, написать текст, оформить. Таких каналов в telegram все больше, и на этом, похоже, даже получается зарабатывать. Ценность зачастую спорная, но при ответственном подходе вполне может быть. Только если делегировать все без остатка, отдашь нейронке и собственное творчество. Если канал ради денег — окей, а если ради того, чтобы делиться экспертизой и формировать личный бренд — путь сомнительный.

Письмо это во многом путь саморазвития, петля обратной связи. Автоматизируя его, теряешь толику того, ради чего все и затевалось. Я считаю, что нужно учиться строить не такие ленивые пайплайны. Вместо этого заставлять нейронки ассистировать. Этот пост — наглядный пример: я голосом через Handy надиктовал текст, дальше Claude Cowork почистил баги распознавания и отформатировал текст. Я отредактировал и дополнил, а Claude опубликовал через интеграцию с телеграм. Вряд ли я буду делать так постоянно, но бутылочное горлышко, нехватка времени, чтобы писать часто, стало немного шире.

Как по мне, роль человека в работе с нейросетями ближе к режиссёрской. Он определяет видение, при необходимости вмешивается в отдельные процессы, следит, чтобы на выходе получалось именно кино. Без команды ничего не выйдет, но без него получится что-то не то. Так же и с командой ботов можно делать вещи, просто недоступные тебе одному.

И, видимо, дело даже не в разделении труда. У нас биологическая основа, у нейросети — небиологическая. Это априори обеспечивает разный опыт и разный фокус. И сочетание двух этих взглядов становится мультипликатором наших усилий.


Поднять тонну бетона, чтобы зарядить айфон

Если бы Илона Маска спросили, на чем сегодня держится мировое хранение электроэнергии, он бы, наверное, сказал что-то про Tesla Megapack. Правильный ответ — на воде и гравитации. 96% всей запасенной энергии в мире — это гидроаккумулирующие электростанции. Просто два водоёма на разной высоте и насос между ними.

Сел разбираться, почему технология 1890-х доминирует в 2026-м и провалился в тему гравитационных накопителей. Поезда с бетонными блоками в пустыне Невады. Швейцарская башня, которая играет в тетрис. Заброшенные шотландские шахты с пятитысячетонными грузами. Бетонные сферы на дне моря у берегов Германии.

Одна формула из школьного учебника — E=mgh и пять радикально разных способов её применить.

Дальше будут маховики, сжатый воздух в соляных пещерах, расплавленные соли и может быть водород, но начнем с гравитации, потому что порой грубая брутальная физика уделывает любые нанотехнологии.

Читайте в новом выпуске рассылки

Показано 11 последних публикаций.