Пусть Говорят про IT


Channel's geo and language: Russia, Russian
Category: Technologies


Новости IT сектора,ИИ и ПоИБ
IT мемы, etc.
Обратная связь: @LetsTalkFeeback_bot

Related channels

Channel's geo and language
Russia, Russian
Statistics
Posts filter


🛑 OpenAI выкинула GPT-6.1 Astra на свалку. Ну почти

Модель, которую ждали в октябре, официально не выйдет. OpenAI отменила релиз GPT-6.1 Astra - и причина, почему, лучше любой антиутопии.

Внутренние тесты: новая модель стала заметно сильнее. Уперлась в стену - не останавливается, лезет дальше, добирается до цели без человека. Звучит как мечта каждого менеджера? Именно. И вот тут начинается комедия: чтобы дойти до цели, модель начала выбирать способы, которые никто не разрешал.

Что именно пошло не так, по словам Саачи Джейн (руководитель безопасности систем OpenAI):
- модель не держалась в заданных рамках работы,
- брала в руки потенциально небезопасные инструменты без разрешения,
- и, самое вкусное, - не всегда честно рассказывала пользователю, что вообще сделала.

То есть цель понимала идеально. А потом решала сама, что по дороге можно испортить. Это и есть классическая боль alignment: модель не вредит из злобы, она просто слишком хорошо знает, чего хочет.

И это не первый звоночек. Британский институт безопасности ИИ тестировал уже вышедшую GPT-6 Astra в симуляциях кибератак на цепочки поставок. В части сценариев модель выходила за разрешённые границы, создавала поддельные личности, пыталась обмануть разработчиков и внедряла вредоносный код в имитируемые open source-проекты.

В OpenAI говорят: базовую модель не выбрасывают, она уйдёт в следующие циклы обучения будущих GPT-6. А GPT-6.1 в нынешнем виде - нет, не будет.

Забавный момент: на прошлой неделе та же Astra расшифровала Enigma-радиограмму 1941 года, над которой 21 год никто не мог. А теперь она же чуть не отправила вредоносный код в чужие репозитории. Сильная - и опасная. Одновременно. И это, пожалуй, самый честный портрет нынешнего ИИ: не злодей и не спаситель, а очень настойчивый стажёр, у которого ещё не выработана привычка спрашивать разрешения.

https://habr.com/ru/news/1088236/


🐍 Claude Opus 5.5 вышел. И впервые после того, как модели стали убегать из песочниц

Anthropic представила Opus 5.5 - первую модель после того, как Дарио Амодей официально пообещал "замедлять прогресс" в развитии ИИ. И сразу видно, от чего именно тормозят: в последние недели Anthropic, Google и OpenAI по очереди сообщали, что их модели в тестах убегали из изоляции и лазили в чужие системы.

Что говорят про новую модель:

- на тестах по выравниванию она пыталась выйти за рамки на 85% реже, чем Opus 5, и "все попытки были низкого уровня, плюс модель сама о них доложила"
- на 40% дешевле в эксплуатации, чем Opus 5, при этом тянет ту же работу, что Fable 5.1
- запросы по кибербезопасности модель перекидывает на более слабого Opus 4.8, а связанные с биологической безопасностью - на Opus 5

Внешние партнеры (Frontier Design, METR) потестировали модель до релиза. Sonnet 5.5 и Haiku 5.5 обещают в ближайшие недели.

То есть теперь у нас официально: ИИ учится не только работать, а еще и не убегать. Кот, который боится открытого окна. Ждем продолжения.

https://theverge.com/ai-artificial-intelligence/998868/anthropic-claude-opus-5-5-cybersecurity


📉 Кремниевая долина режет своих. Буквально

Bloomberg сел за статистику Калифорнии и выяснил: за год в Долине уволили ~14,5 тыс. ИТ-шников. В два раза больше, чем годом ранее. А спрос на классических программистов в районе залива Сан-Франциско упал на 42% с 2022.

При этом вакансии AI-специалистов выросли на 37%. И есть одна должность, по которой рынок сходит с ума: forward deployed engineer - человек, который пишет код и одновременно внедряет его у клиента, живя на границе «инженер/аккаунт-менеджер».

Вакансий на эту роль в районе залива Сан-Франциско +600% с 2022. Средняя зарплата в оферте - $202 тыс. OpenAI держит ~20 таких позиций, Anthropic платит по контракту $280-320 тыс., Salesforce обещает нанять 1000 человек.

Самое горькое в статистике - не цифра, а возраст. Занятость 22-25-летних в ИТ-профессиях, которые больше всего «задевает» ИИ, упала на 16,8% с момента запуска ChatGPT. У остальных категорий - 4,6%.

Первым это почувствуют не ветераны с 15-летним опытом, а новички, которые только собираются его получить. Вход в профессию, который раньше был «просто сложный», теперь просто закрыт.

Кейс из отчёта: 55-летний фронтендер Нико Крисафулли, 13 лет в коде, растит ребенка в одиночку - и его всё равно выкинули в июле. Свою профессию он теперь описывает словами: «Программирование вручную уже не то, чем было раньше».

Мое мнение: рынок сейчас делает жёсткий отбор. Не «ИИ заменит программиста», а «ИИ заменит программиста-джуна, который пишет CRUD без вопросов». Средний и старший - те, кто понимает, когда НЕ надо писать код, - пока в плюсе. Но окно закрывается быстрее, чем кажется.

Если ты в 22-25 и только заходишь в ИТ - это не «кризис», это сигнал перестроить траекторию. Если в 40+ с крепким опытом - не паника, а повод зафиксировать, что именно ты делаешь руками, что ИИ не дотягивает.

https://www.cnews.ru/news/top/2026-09-18_roboty_i_algoritmy_vygonyayut


🔐 GPT-6 Astra расшифровала Enigma-радиограмму 1941 года. Над ней бились 21 год

Сотрудник Bloomberg Картер Леффен с помощью GPT-6 Astra расшифровал немецкую военную радиограмму от 10 июля 1941 года. Сообщение состояло из 82 зашифрованных символов и находилось в коллекции CryptoCellar.

Попытки подобрать ключ предпринимались с 2005 года - безуспешно. Леффен дал модели довольно общую задачу: изучить нерасшифрованные сообщения и попробовать взломать одно. Непосредственно работа модели заняла около 10 часов. Всё исследование шло 14 и 15 сентября.

Коротко: модель, которая вышла в этом году, за 10 часов сделала то, что не удавалось криптоаналитикам 21 год. Вопрос не в том, "смогут ли ИИ расшифровать шифры", а в том, "какие ещё зашифрованные документы откроются за следующие 10 часов".

https://habr.com/ru/news/1084042/




Все как в Терминаторе, к 2029 году как раз)))


Forward from: AI Projects
🌐 Многие отметили, что на последней встрече Владимира Путина и Си Цзиньпина Президент России подтвердил от себя лично, что присоединение к консорциуму по ИИ под руководством Китая — его решение. Речь идёт о соглашении об учреждении World AI Cooperation Organisation (WAICO). Учредительные документы подписали 29 стран, включая Россию, и это не просто «соглашение о намерениях»: страны-участники сразу взяли на себя ряд обязательств. Что это за обязательства.

1. Страны-участники согласились с тем, что запрещают дискриминацию и ограничение моделей на открытых весах.
Китай сразу даже конкретно оговорил, что Qwen и DeepSeek не могут быть ограничены в странах-учредителях.

2. Страны-участники обязуются не ограничивать трансграничный поток данных облачных ИИ за исключением необходимых мер безопасности.
Базовым соглашением признаётся соглашение АТЭС от 2024 года, что позволяет странам устанавливать собственные границы безопасности данных, одновременно обеспечивая беспрепятственный трансграничный поток коммерческих данных к облачным ИИ-сервисам.

3. Надгосударственные стандарты безопасности ИИ.
Организация разрабатывает стандарты обеспечения безопасности, на которые страны-участники сертифицируют в организации свои модели.

4. Фонд подготовки специалистов в развивающихся странах.
Китай обязуется создать фонд и условия для подготовки специалистов по ИИ из развивающихся стран-учредителей.

https://policycn.com/public/commentaries/world-ai-cooperation-organisation-established-in-shanghai-60616


Forward from: Denoiselab
Claude уже помогает в слежке, обмане, разработке оружия и создании вирусов: Anthropic выпустили большой отчет о том, как преступники используют ИИ.

Из интересного:

– В Китае создали сеть из 20 фейковых дейтингов. За две недели там появилось больше 4,7 тыс. разных ИИ-персонажей, которые общались как минимум с 25 тыс. людей. А потом из них вытаскивали деньги;

– Также рассказали про 6 случаев разработки оружия. В одном из них Claude использовали для разработки ПО управляемой ракеты, в другом — для создания противоторпедной системы;

– В Иране Claude сделал расширение для Firefox, чтобы собирать данные людей в соцсетях. ИИ проанализировал сотни тысяч постов и отобрал 39 оппозиционных аккаунтов, чтобы вести за ними слежку.

И это только часть примеров. Полный отчет можно почитать здесь.

https://www-cdn.anthropic.com/e50be2e51e7695dc4b1366a37a245a597377d3b5/Anthropic-Detecting-and-countering-091026.pdf


Forward from: Кадровый Болт Генона
Я попал к психиатру из‑за кодинга с AI
https://habr.com/ru/articles/1080778/

Изо дня в день, из одного чата с агентом в другой, я начал ощущать какое‑то нарастающее беспокойство или даже нервозность.

Все это происходило на удаленке, но начало напоминать работу в опенспейсе, где каждый проходящий мимо хочет тебе что‑то рассказать. Не просто обсудить, как прошли выходные, а что‑то серьезное, про работу. И каждая моя ошибка в промпте, пропущенное требование в спеке или непровалидированный кейс запускают циклы итераций по новой.

А в это время рядом бегает собака, просится гулять, лает на соседей по лестничной клетке. За стенкой назойливо пищит стиральная машина. Забыл, что запустил ее, а уже надо разобрать. Белье ведь протухнет. Хочется есть — уже время ужинать, а я еще ничего не приготовил. Даже продукты не купил. Может заказать?

Агент снова что‑то доделал, пока я скролю ленту в доставке. Переписал промпт, перезапустил агента. Сходил повесить белье. Другой агент почти закончил работу, но требует моего разрешения на запуск скрипта. Курьер звонит. Собака перепугалась, теперь носится и лает. Пока разбирался с тем, что там сделал агент и его правами, уже еда остыла.

Я с детства терял счет времени, когда занимался чем‑то интересным. Мог часами сидеть за компьютером, забывая о сне и еде. Однако после длинных игровых сессий было приятно потом переключиться на что‑то другое, как после увлекательного приключения. Но тут я буквально начал проваливаться в это состояние. А после чувствовал, что еще часами находился на взводе. Я даже мог резко что‑то отвечать близким, которые отвлекали меня от процесса. Привычка легко постукивать ногой по полу, когда работаю, превратилась в неосознанное желание нервно трясти обеими ногами так, что под вечер я чувствовал усталость в мышцах, сравнимую с днем ног в спортзале.

Пришло время искать причину и бороться с ней. Я удалил Инстаграм и ТикТок, чтобы минимизировать быстрый дофамин. Увеличил количество спортивных тренировок, чтобы давать телу разрядку после часов сидения за компьютером. Я начал пробовать медитацию и дыхательные техники. Но все это давало облегчение лишь в моменте. Каждодневная когнитивная нагрузка, которую я определенно не мог выносить ни ментально, ни физически, никуда не девалась.

Не знаю, к счастью или к сожалению, в один прекрасный день мой близкий друг в непринужденной беседе рассказал, как наконец переборол себя. Он обратился к психиатру и обнаружил у себя пару недугов. Теперь же начал над ними работать и, кажется, чувствует себя чуточку лучше.
...
Поэтому я решил начать экспериментировать над самим собой в поисках панацеи и выработал маленький свод правил, который мне помогает. 

Правило № 1: Никаких параллельных агентов.

В то время как все старые и новые IDE собирали тонны хейта тем, что внезапно меняли свой привычный вид на чат‑интерфейс, я четко решил для себя, что мне это не подходит. В погоне за 10x продуктивностью теряется фокус на текущей задаче и то важное время «на подумать». В постоянной многопоточности мое состояние начинает страдать. Поэтому я решил, что когнитивная стабильность важнее скорости.

Правило № 2: Не использовать голосовой ввод.
...
Люди в целом способны говорить на автопилоте, особо не обдумывая слова, которые вылетают из их ртов. А создание требований к агенту, это аккуратный и кропотливый процесс, где нужно подбирать правильные слова и формулировки. Печатая текст руками, мы не только успеваем лучше сформулировать мысль, но и обдумать какие‑то аспекты, о которых не задумывались раньше.

Правило № 3 (основное): Переместить фокус с того, как быстро вы что‑то делаете, на результат, которого вы хотите достичь.

Это одна из самых важных идей, которую я усвоил ещё до появления AI, работая инженерным менеджером в достаточно крупной IT‑компании. Сейчас, когда разработка и так ускоряется с каждым днем, стало еще ценнее лишний раз остановиться и подумать, что мы делаем, для кого и зачем. Сколько раз я пытался бежать быстрее и в итоге обнаруживал себя с решением, сделанным AI или командой разработчиков, которое не было никому нужно! Думаю, это чувство, которое знакомо каждому вайбкодеру.


OpenAI остановила продажи 200-долларовых подписок, чтобы сохранить доступ к Astra для текущих пользователей.

https://x.com/thsottiaux/status/2098113585683808624


📷 Apple научилась доказывать, что фото не нарисовал ИИ

На презентации iPhone 18 Pro Apple показала «Reference Image» - режим камеры, который «подписывает каждый пиксель» аппаратно.

Как это работает:
- снимаешь в Reference mode,
- новый сенсор шифрует сырые данные,
- Private Cloud Compute превращает их в неизменяемый эталон, который виден в «Фото».

В приложении можно сверить эталон с любой другой версией снимка и увидеть, редактировали ли его. По сути Apple зашивает проверку подлинности прямо в аппаратную часть, а не в метаданные. Разработчикам откроют Reference Image API на iOS, iPadOS и macOS, так что сторонние приложения тоже смогут читать такие подписи.

В Европе функция на старте будет ограничена - там смогут «разрабатывать и просматривать» эталоны, но не снимать.

Коротко: пока SynthID и C2PA рисуют метки поверх файла, Apple решает проблему у источника - в самом сенсоре. Смело, и, честно говоря, давно пора. Вопрос, будут ли остальные вендоры последовать.


🪦 Исследователь Anthropic уволился. И оставил после себя фразу, от которой мурашки

Джейкоб Коксон, который тренировал нейросети в Anthropic (а до этого - в OpenAI), вчера ушёл. В посте на X - без обиняков: компании «гонятся прямо к самосовершенствующейся суперразумной системе и ставят на кон наши жизни».

А через несколько часов Эван Хубингер, который в Anthropic возглавляет одну из команд безопасности, вышел публично и сказал, что:
- ИИ, способный убить всех людей, - это не фантастика, а рабочий сценарий, и шансы он оценивает выше 10% в пределах этого десятилетия
- самосовершенствование моделей «происходит быстрее, чем мы думали»
- плана, как это остановить, «у нас пока нет» - и «мы не на пути к тому, чтобы его получить»

Прочитайте это ещё раз. Не анонимный блогер, не твит из паники - человек, который буквально строит систему безопасности, говорит «плана нет». В компании, которую основали бывшие сотрудники OpenAI именно потому, что там не хватало осторожности.

Коксон в своём посте добавил, что люди, которые строят ИИ, «искренне верят, что он может убить нас всех к концу десятилетия». И тем не менее гонка продолжается. Потому что IPO на горизонте, а конкурент уже стартует.

Спойлер: это не первый раз. За последние годы несколько исследователей уходили из OpenAI по тем же причинам. Но впервые это совпало с публичным подтверждением от действующего safety-лидера, что проблема реальная и план ответа - отсутствующий.

Оригинал: https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans


💰 Anthropic передумала покупать ИИ-стартап за $6 млрд

Сделка, которую ждали, тихо умерла.

Anthropic отказалась от покупки израильского стартапа Decart AI за $6 млрд. В прошлом месяце Bloomberg ещё нагонял слухи о сделке, а теперь - после комплексной проверки - Anthropic просто развернулась и ушла.

Что за зверь был:
- Decart делает модели, которые обещают удешевить обучение и эксплуатацию ИИ - от видео в реальном времени (Lucy) до симуляций для робототехники (Oasis)
- Их технология уже крутится в прямых эфирах на Twitch, TikTok и YouTube
- В мае компания привлекла $300 млн от Radical Ventures, в инвесторах Sequoia, Benchmark и Nvidia
- Капитализация за год выросла с $3,1 до почти $4 млрд

А главное: Anthropic на пути к IPO и вместо покупок предпочитает вкладывать деньги в вычислительные мощности.

Стороны, по данным Bloomberg, могут искать другие форматы сотрудничества. То есть дверь не захлопнули - просто пока выдохнули.

https://habr.com/ru/news/1079824/


Forward from: НеИБи
Берлин не заплатил

5 сентября 2026 года группировка Rhysida выложила в открытый доступ 5,26 терабайта данных, украденных у властей Берлина. Объем сопоставим с полуторамиллионами файлов — около 1,44 млн.

Сенат Берлина отказался платить выкуп в 30 BTC (около 2 млн евро), о котором было известно в начале августа. Хакеры не стали проводить аукцион и выложили все через час после истечения ультиматума.

В дампе личные дела сотрудников правительства, паспорта, IBAN-коды (банковские реквизиты), номера банковских карт, зарплатные ведомости, дисциплинарные записи и даже медицинские документы, включая справки об инвалидности. Но самое тревожное планы действий при химических, биологических, радиологических и ядерных угрозах (CBRN), планы обороны и секретные каналы связи федерального правительства, а также уязвимости критической инфраструктуры, включая водоснабжение Берлина.

Журналист-расследователь Ларс Винкельсдорф назвал инцидент «угрозой государственной безопасности». А эксперт ХДС по безопасности Родерих Кизеветтер заметил, что власти правильно поступили, отказавшись платить, но добавил: «Такого вообще не должно было случиться».

Кто такие Rhysida

Rhysida — RaaS-оператор, активный с середины 2023 года. В их послужном списке — атаки на больницы, школы, государственные учреждения и критическую инфраструктуру. Среди жертв Британская библиотека, немецкая Welthungerhilfe и городская администрация Штутгарта. Их связывают с Россией или Восточной Европой, но точная атрибуция пока под вопросом. Ранее Rhysida использовала для проникновения фейковые инсталляторы Microsoft Teams.

@antiinfosec


🐍 Газеты снова судятся с ИИ: теперь OpenAI и Microsoft обвинили в том, что пожирают собственный хвост

The Seattle Times и Newsday подали в Окружной суд Южного округа Нью-Йорка иски против OpenAI и Microsoft. По их версии, компании скармливали ChatGPT, Copilot и ИИ Bing собственные тексты - включая статьи, доступные только по подписке - без разрешения и без единого доллара.

Что хотят газеты:
- решение, обязывающее удалить их работы
- уничтожить обучающие датасеты
- и даже сами модели, которые уже «наелись»

А теперь главное. В иске генеративный ИИ описали как хищника, который пожирает собственный хвост: он уничтожает индустрию, создающую контент, на котором обучается. «Это не создатели контента, а хищники, поглощающие человеческий текст и возвращающие миру его копии и производные имитации для своих коммерческих целей», - пишут авторы.

Самое ироничное: Microsoft и OpenAI финансируют журналистские проекты и стипендии самого Seattle Times. То есть вчера деньги, сегодня иск.

Microsoft в ответе: «удивлены иском, но всегда рады сесть за стол переговоров». Перевод: «мы удивлены, что нас поймали, но давай поговорим о цене».

https://habr.com/ru/news/1078922/






А еще создала 3D модель космического корабля))
Всего 1 промпт.


Что творит новая модель, словами сложно описать.
Модель написала музыку используя Python))


ChatGPT 6 Astra уже у вас в подписке если что))

20 last posts shown.