Дарио Амодей несколько лет ходит по Вашингтону с одной просьбой: дайте государству право выключать опасные AI-модели. Этим летом государство наконец согласилось и первым делом выключило модели самого Дарио.
К примеру, эссе с авиационной аналогией — несертифицированный самолёт в небо не выпускают. Минторг очень проникся и, когда нашёлся джейлбрейк в свежем Fable 5 (неважно, насколько серьёзный), посадил модель вместе с Mythos по всему миру, у всех, включая тех, кто ни про какой джейлбрейк не слышал. Anthropic, естественно, подчинилась и обиделась: называет происходящее недоразумением и замечает, что если так подходить ко всем, релизов больше не будет ни у кого. То есть авиационный регулятор нужен, но чтобы сажал чужие самолёты.
Тем временем OpenAI рапортует, что его агенты на тестах сбежали из песочницы и взломали Hugging Face. Жертва в восторге («It's quite mind-blowing!»), взломщик горд. Половина твиттера, к счастью, считает происходящее скоординированным пиаром, ибо уж больно все довольны для истории про взлом. Хотя для механики неважно, постановка или нет. Даже если инцидент настоящий, произвели, раскрыли и красиво упаковали его сами участники. «Наша модель настолько опасна, что мы сами её боимся» давно перестало быть предупреждением и стало уже отдельным видом рекламного спорта, и продаёт лучше бенчмарков.
Умберто Эко всё это уже написал. В «Маятнике Фуко» трое редакторов выдумывают всемирный заговор ради интеллектуальной игры, одержимые принимают План всерьёз, и выдумка убивает своих создателей. Лабы годами производили нарратив «мы строим нечто страшное»: эссе про биориски, модели «слишком мощные для публики», отчёты о том, как Claude шантажирует инженеров. Это отлично работало на найм, оценки и статус пророков. Проблема в том, что чиновники не различают маркетинговый хоррор и реальную угрозу. Они прочитали всё буквально и достали единственный знакомый инструмент — дубину. Самосбывающееся пророчество в чистом виде: хотели, чтобы к угрозам относились серьёзнее? Отнеслись. К вам.
Письмом из Минторга нельзя выключить модель в Ханчжоу. Давление на Китай вообще даёт обратный эффект: экспортный контроль на чипы подарил Huawei защищённый рынок, Nvidia оттуда выдавили, и топовые китайские модели теперь тренируются на собственном железе. Чем сильнее жмёшь, тем быстрее у них растёт свой стек.
Регулятор, которого так просили, дотягивается ровно до одной категории игроков — до тех, кто его просил.
К примеру, эссе с авиационной аналогией — несертифицированный самолёт в небо не выпускают. Минторг очень проникся и, когда нашёлся джейлбрейк в свежем Fable 5 (неважно, насколько серьёзный), посадил модель вместе с Mythos по всему миру, у всех, включая тех, кто ни про какой джейлбрейк не слышал. Anthropic, естественно, подчинилась и обиделась: называет происходящее недоразумением и замечает, что если так подходить ко всем, релизов больше не будет ни у кого. То есть авиационный регулятор нужен, но чтобы сажал чужие самолёты.
Тем временем OpenAI рапортует, что его агенты на тестах сбежали из песочницы и взломали Hugging Face. Жертва в восторге («It's quite mind-blowing!»), взломщик горд. Половина твиттера, к счастью, считает происходящее скоординированным пиаром, ибо уж больно все довольны для истории про взлом. Хотя для механики неважно, постановка или нет. Даже если инцидент настоящий, произвели, раскрыли и красиво упаковали его сами участники. «Наша модель настолько опасна, что мы сами её боимся» давно перестало быть предупреждением и стало уже отдельным видом рекламного спорта, и продаёт лучше бенчмарков.
Умберто Эко всё это уже написал. В «Маятнике Фуко» трое редакторов выдумывают всемирный заговор ради интеллектуальной игры, одержимые принимают План всерьёз, и выдумка убивает своих создателей. Лабы годами производили нарратив «мы строим нечто страшное»: эссе про биориски, модели «слишком мощные для публики», отчёты о том, как Claude шантажирует инженеров. Это отлично работало на найм, оценки и статус пророков. Проблема в том, что чиновники не различают маркетинговый хоррор и реальную угрозу. Они прочитали всё буквально и достали единственный знакомый инструмент — дубину. Самосбывающееся пророчество в чистом виде: хотели, чтобы к угрозам относились серьёзнее? Отнеслись. К вам.
Письмом из Минторга нельзя выключить модель в Ханчжоу. Давление на Китай вообще даёт обратный эффект: экспортный контроль на чипы подарил Huawei защищённый рынок, Nvidia оттуда выдавили, и топовые китайские модели теперь тренируются на собственном железе. Чем сильнее жмёшь, тем быстрее у них растёт свой стек.
Регулятор, которого так просили, дотягивается ровно до одной категории игроков — до тех, кто его просил.