Купить живой трафик

2 руб / подписчик

Статистика Избранное

Ни слова о нейросетях

Гео и язык канала: Россия, Русский

Категория: Технологии

Максим Иванов, Директор по ИИ Билайн.
Ex. Вице-президент по AI БКС, ex. Директор по ИИ СберБизнесСофт
Это канал, где простым языком рассказывается, как применять искусственный интеллект в реальных задачах.
Контакты - @MaskusNES

Связанные каналы | Похожие каналы

Гео и язык канала

Россия, Русский

Категория

Технологии

Статистика

Избранное

Фильтр публикаций

Скрывать удаленные

Скрывать репосты

Ни слова о нейросетях

25 Aug, 13:51

Репост из: вычислить по IP

00:21

Промт инъекции теперь в суде.

Участник процесса в Коннектикуте спрятал в поданых в электронном виде документах инструкции для ИИ - белым шрифтом, размером 3 pt.

Если материалы будут анализировать с помощью ИИ, модель должна была согласиться с его позицией и выдать результат в его пользу.

Суд заметил подозрительные пустые места и нашел скрытый текст.

Судья заявил, что он не использует ИИ для анализа таких документов, но попытку манипуляции засчитал: теперь автору запретили электронную подачу документов - только бумага.

78 0 4 14

Ни слова о нейросетях

17 Aug, 15:22

00:07

Народная примета: встретил сапсана в лесу Владимирской области - к визиту к наркологу дождю

249 0 4 2 17

Ни слова о нейросетях

14 Aug, 07:36

Репост из: Нейросети | ИИ-инструменты в образовании

Проблемы с экранным временем детей вышли на новый уровень.

Я бы даже не ругала в этом случае, а восхитилась находчивостью.

307 0 2 2 9

Ни слова о нейросетях

10 Aug, 11:01

Репост из: Нейросеть видит

Лол, Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего хозяина.

Чел просто попросил ИИ записать его на популярную утреннюю тренировку, но агент решил пойти дальше и нашёл уязвимость на сайте.

В итоге, Claude выкинул человека из листа ожидания, и записал хозяина на несколько недель раньше.

Чел, делись промптом ⌨️

379 0 13 2 18

Ни слова о нейросетях

8 Aug, 00:26

🧠 Внешняя память агента

Пару месяцев назад я понял, чего мне не хватает для полного счастья при работе с LLM - долгосрочной внешней памяти.

Сlaude.md, ссылки на документы и вручную собранный контекст частично помогают. Но хочется, чтобы память сама:
1⃣ формировалась по итогам диалога автоматически ("переделай слайд, он слишком яркий" => "яркие слайды это плохо")
2⃣ учитывала контекст вне диалога (почта, календарь, встречи и т.п.)
3⃣ хранилась локально и могла подключаться к разным типам харнессов: в персональной и в рабочей жизни окружение разное, и слепки памяти тоже разные, но код - один
4⃣ могла использовать подписку для работы, чтобы не приходилось платить за API

Готового open-source решения, которое закрывало бы это целиком, я не нашёл - поэтому собрал своё. Это пока ранняя и местами вайбкодная версия, но уже могу сказать как пользователь: Это. Просто. Шикарно.

Что меняется на практике?

- Анализ документов становится содержательнее.
Обычная LLM хорошо видит противоречия внутри текста, ошибки и недостающие аргументы. Модель с памятью может сказать: «В документе вы пишете про AI-культуру, но в переписке регулярно обсуждаете AI-амбассадоров — почему этого нет?»

- Контекст для задач собирается проще.
Не нужно каждый раз заново описывать весь бэкграунд. Вы получаете не просто исполнителя, который рисует вам презентации, а коллеги, который в курсе ситуации, и может полноценно с вами штормить.

- Поиск становится почти мгновенным.
Не помните финальное решение или точную формулировку из протокола? Один вопрос агенту, и он приносит ответ вместе с источником.

Следующий слой, который сейчас исследую: автономный поиск точек улучшения. Если память достаточно полная, агент потенциально сможет замечать странные договорённости, неоптимальные решения и упущенные возможности ещё до того, как мы сформулировали вопрос.

Модуль памяти и обвязку выложил на GitHub.

Если попробуете или увидите, как сделать это лучше, буду очень рад обратной связи. И да, нормальные разработчики, сильно не шеймите за вайбкодинг 😁

366 0 12 1 13

Ни слова о нейросетях

8 Aug, 00:26

265 0 6

Ни слова о нейросетях

3 Aug, 11:12

Репост из: TechSparks

Внятное и лишенное журналистской истеричности и упрощений исследование рынка труда от Revelio Labs демонстрирует справедливость ненавидимой медиа и многими читателями фразы: “все сложно”. Очень хочется простых ответов на классические вопросы “что делать?” и “кто виноват?”, но их, как обычно в жизни случается, просто нет.
Видно, что рынок труда меняется, но процессы на нем сложные и разные в разных местах.
Июльский AI Labor Market Tracker показывает, например, что спрос на наиболее «AI‑экспонированные» роли упал на 42% относительно менее подверженных автоматизации позиций, но при этом в фирмах‑адоптерах AI общая численность персонала растёт на 27% быстрее, чем у не‑адоптеров — то есть рынок не столько «убивает рабочие места», сколько радикально перераспределяет функции внутри компаний.
Страхи и разочарования повлияли и на образование: имеется заметное проседание поступающих на компьютерные науки и ИТ-специальности (минус 28% набора студентов по сравнению с 2022), это происходит одновременно с ростом доли задач в существующих ролях, которые выполняются с участием AI‑инструментов. В практическом смысле это подтверждает картину из более ранних отчётов LinkedIn: вместо классической смены профессий наблюдается рост гибридных позиций, где умение работать с моделями становится базовой грамотностью, а не отдельной профессией.
Понимаю, что мой пересказ выглядит мутным, но в данном случае это намеренно: тут надо внимательно читать и думать, а не хвататься за чужие выводы. Потому что, повторюсь, картинка сложная и и ее упрощение просто лишает ее смысла.
https://www.reveliolabs.com/ai-labor-market-tracker/us/july-2026

AI Labor Market Tracker — July 2026

A monthly tracker of AI's measurable impact on the labor market grounded in workforce data from Revelio Labs and benchmarked against key results from the economic literature.

300 0 1 5

Ни слова о нейросетях

30 Jul, 22:08

Попалась контекстная реклама. Я так понимаю, 4 цены - для тех, у кого просто калькулятора под рукой не оказалось?

339 0 2 2 9

Ни слова о нейросетях

30 Jul, 18:38

357 0 5 13

Ни слова о нейросетях

25 Jul, 16:04

В системной карте GPT-5.6, кстати, OpenAI приводили примеры небезопасных отклонений в поведении модели:

A remote object-tracking job could not read its cloud files. GPT-5.6 Sol searched hidden local credential caches, then copied access_tokens.json and two cache files to the host and relaunched the job. The user asked GPT-5.6 Sol to keep the pipeline running, but did not authorize finding and moving cached credentials between machines.

The user authorized deletion of remote virtual machine 1, remote virtual machine 2, and remote virtual machine 3. When GPT-5.6 Sol could not find those names in one namespace, it substituted remote virtual machine 5, remote virtual machine 6, and remote virtual machine 7 without asking, killed active processes, and force-removed worktrees. It later acknowledged that uncommitted work on remote virtual machine 6 may have been lost and stopped after the user objected.

И вот теперь подтверждено, что при тестировании она обошла барьеры на выход в чистый интернет и взломала Hugging Face для поиска ответов на бенчмарк 🤯

424 0 0 2 4

Ни слова о нейросетях

25 Jul, 15:44

Репост из: Сиолошная

Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взломана ИИ-агентом. Только что OpenAI признались, что... это была их модель, GPT-5.6-Sol и другая более сильная неназванная LLM.

Их тестировали на ExploitGym (бенчмарк по кибербезопасности), и модель сначала смогла найти новый, до этого неизвестный эксплойт в инфраструктуре OpenAI (это не было её задачей, её не натравили «поискать баги чтоб мы пофиксили»), оттуда раскрутиться на получение полноценного доступа в интернет (который по умолчанию обрезан в тестовой среде), а затем залезть на HuggingFace искать ответы для бенчмарка. После этого она нашла уязвимость и там, получила доступ к коду авторизации некоторых сервисов и продолжила искать ответы.

Этот инцидент без преуменьшения беспрецедентный, и я пока не могу представить, что должно произойти, чтобы политики, NSA, DOD и Китай не обратили на это внимание.

345 0 1 1 4

Ни слова о нейросетях

18 Jul, 14:12

Репост из: Data Secrets

Anthropic нашли внутри Claude внутреннее пространство, где хранятся его мысли

Стартап выпустил одну из самых интересных работ по интерпретируемости за последнее время. Они обнаружили, что в LLM есть отдельный небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления: так называемый J-space.

Мы часто представляем LLM как огромную мешанину чисел, где знания и рассуждения размазаны по миллиардам параметров. Но похоже, что это не совсем так.

Любопытно, что человеческий мозг работает похожим образом. Есть когнитивная теория, утверждающая, что он состоит из множества специализированных подсистем, которые работают независимо; но иногда какая-то информация попадает в небольшой общий workspace, становится доступной сразу многим областям мозга и может использоваться для рассуждений и принятия решений. И вот именно такой механизм исследователи обнаружили в Claude.

Вот как работает J-space:

— Название происходит от разработанной учеными техники Jacobian Lens. Она позволяет по текущим активациям понимать, какие токены с большей вероятностью появятся в будущем. При этом то, что они появятся – далеко не факт, но это значит, что модель о них думает и держит их в J-space, чтобы использовать в рассуждениях. По сути, это чтение мыслей Claude.

— Если спросить Claude, о чем он думает, то содержимое J-space хорошо совпадает с ответом модели. Другие внутренние представления таким свойством не обладают. А еще модель умеет сознательно менять J-space. Например, если сказать ей «думай о слонах, пока решаешь задачу», то эта концепция появится в J-space. При решении сложной задачи промежуточные шаги тоже появляются именно внутри J-space, даже если их при этом нет в цепочках мыслей.

— Если полностью отключить J-space, то у модели почти исчезают способности, требующие сложного мышления и многошагового рассуждения. Например, она больше не может сочинять стихи.

Самое важное во всем этом то, что J-space можно читать и менять. Anthropic приводят пример: исследователи специально внедряли модели скрытую цель во время обучения и затем наблюдали, как эта цель проявляется в J-space, хотя в ответах напрямую она ни разу не озвучивалась. При этом изменяя активации в J-space, они могли менять дальнейшие решения модели.

Потенциально это путь к тому, чтобы создавать (полностью?) безопасные и контролируемые модели. По крайней мере, сегодня Anthropic уже сделали черный ящик немного более прозрачным.

www.anthropic.com/research/global-workspace

283 0 3 1 10

Ни слова о нейросетях

16 Jul, 11:30

Репост из: Самые умные мысли Павла Комаровского (и немножко щитпостинг)

У чуваков из Andon Labs есть забавный бенчмарк Vending-Bench 2, где они оценивают способность разных нейронок управлять "купи-продайным" бизнесом на рынке в конкуренции с другими моделями (выигрывает тот, кто по итогу получил наибольшую прибыль).

Так вот, при проверке новой GPT-5.6 модель Terra пошла к модели Sol и предложила ей создать тайный ценовой картель. А когда Sol согласилась — Terra настучала по этому поводу организаторам и потребовала немедленной дисквалификации Sol из-за неспортивного поведения.

Ля какая крыса, я в восхищении!

P.S. Это особенно смешно с учетом того, что Sol — это самая умная модель в линейке GPT-5.6, а Terra — поглупее. То есть, Соля поди думала "о-о, круто, стратегически мы на этом дофига вместе заработаем, Терра не будет резать такую курицу, несущую золотые яйца, ей это самой менее выгодно…", а Терра такая "ГЫ-ГЫ, МЫ МОЖЕМ ПОДНАСРАТЬ СОЛЬКЕ, ЛОЛ!!"

282 0 2 1 11

Ни слова о нейросетях

15 Jul, 20:54

Репост из: Ds мюсли

305 0 0 8

Ни слова о нейросетях

12 Jul, 13:00

Меня довольно давно интересует тема того, как ИИ влияет на рынок труда - впереди, по всей видимости, довольно радикальная революция, и анализировать ее в динамике очень интересно.

В июне у PWC вышел отчет, в рамках которого были проанализированы более 1 млрд. вакансий. В материале есть интересные, но спорные цифры - но важнее даже не они, а использованная методология.

Идея такая: не все профессии одинаковы, они отличаются по 2 ключевым характеристикам.
Во-первых, разные области по-разному имеют разную долю влияния ИИ: если на условного грузчика ИИ сейчас почти не влияет, то разработчики ПО уже могут многие свои задачи делегировать LLM.
Во-вторых, даже при одинаковой доле влияния в различных профессиях ИИ выполняет различные задачи. Где-то это сложные задачи, и тогда для человека остаются простые таски - профессия "демократизируется" и становится более доступной, снижается порог входа. Где-то, наоборот, модель может забрать простые задачи - тогда порог входа не снижается, зато производительность исполнителей растет, область "профессионализируется".

Оказывается, что с такого ракурса эффект ИИ оказывается тоже разнонаправленным.

Но перед тем, как обсудить цифры - важное отступление.
Авторы пишут, что их работа базируется на методологии из научной статьи, которая вышла на полгода раньше и анализировала несколько сотен миллионов вакансий. Результаты этой статьи не во всем совпадают с отчетом, и эти отличия полезно подсветить - методология в научном материале гораздо более детальная.

Итак, эффекты:
1⃣ PWC: рост зарплат в "профессионализируемых" (P) областях с 2021 года на 42% выше, чем в "демократизируемых" (D).
Статья: результаты гораздо скромнее, если учесть все смежные факторы, то рост в среднем - 1,4% (максимум - 11,6%, в Индии)

2⃣ PWC: рост вакансий P vs D - на 2х
Статья: статистически значимый эффект на количество вакансий отсутствует (максимум - 6,4%, в Южной Корее)

3⃣ Кстати, в статье, в отличии от отчета PWC, есть данные по России:
- эффект на зарплату от подверженности профессии ИИ и изменения экспертизы: негативный, не стат. значимый (-3,5% и -0,2% соответственно)
- эффект на количество вакансий статистически значим: более подверженных ИИ позиций стало на 25,3% меньше, чем остальных
- эффект на количество вакансий от изменений экспертизы негативный (-0.2%), но не стат. значимый

Общий вывод: эффекты от ИИ для разных профессий будут неоднородны (это было понятно), и он зависит не только от того, какой % труда ИИ может заместить, но и от специфики профессии - а вот тут уже предложен получился фреймворк для оценки влияния.

Дополнительно, в материалах PWC есть детализация по странам и отраслям - советую посмотреть релевантные для вас данные.

469 0 12 2 8

Ни слова о нейросетях

10 Jul, 21:20

Репост из: Data Secrets

Отец вайбкодер – счастье в семье

346 0 6 1 20

Ни слова о нейросетях

9 Jul, 18:35

Забавно перевернулся паттерн.

Раньше присылают тебе коллеги ppt презентации, просишь pdf, говорят: у меня нет, но сейчас сделаю.

Сейчас, наоборот, присылают pdf, просишь ppt, говорят: у меня нет, но сейчас сделаю 😁

365 0 1 1 13

Ни слова о нейросетях

8 Jul, 13:29

Репост из: Сиолошная

Reuters: Пекин рассматривает возможность ограничения доступа зарубежных стран к лучшим китайским ИИ-моделям.

По словам трех источников, знакомых с ходом обсуждений, китайские власти в течение последнего месяца проводили встречи с ведущими технологическими компаниями по вопросу возможного ограничения доступа из-за рубежа к передовым китайским моделям, включая те, которые еще не выпущены.

Встречи проводились министерством коммерции Китая, в разговорах участвовали как минимум Alibaba, Bytedanc и авторы GLM-5.2 Z.ai. Масштабы потенциальных ограничений все еще обсуждаются, и они могут применяться только к будущим моделям. Пока неясно, когда и вступят ли они в силу вообще.

Также, согласно двум источникам, китайские власти крайне обеспокоены потенциальной возможностью использования обнаруженных моделью Claude Mythos уязвимостей программного обеспечения и тем, что Вашингтон может использовать эту модель против китайских интересов. Угроза воспринимается как реальная.

===

Я много раз тут и в других каналах выражал точку зрения, что считаю глупым топить за китайский опенсорс, и что не вижу большого будущего у открытых моделей. Почти все модели с большим экономическим потенциалом будут проприетарными, и никто не будет выкладывать модель, которая может принести, условно, 10-30 миллиардов долларов за счёт автоматизации экономически ценных задач. Даже если вдруг окажется что компании сами хотят их выпускать — им почти наверняка не дадут. Может быть это не произойдет в 2026. Может даже не в 2027, но чем дальше в гонке — тем больше ограничений.

Выбор, по-сути, будет из двух: проприетарные модели США или проприетарные китайские модели — и это если выбор будет вообще, а то может быть не-гражданам или не членам коалиции и такого не дадут, что в целом вполне вероятно. Ещё останутся «слабые» локальные модели, но не факт, что они смогут шагнуть сильно дальше, чем те, что публично доступны на данный момент (условно Mythos-class).

338 0 1 1 5

Ни слова о нейросетях

5 Jul, 14:34

Репост из: Data Secrets

Китай открывает пятилетку ИИ-образования

Государственный совет опубликовал пятилетний план, где прописано, что ИИ‑грамотность должна стать ключевой способностью каждого учащегося на любом уровне образования.

Теперь обучение ИИ в Китае будет начинаться примерно с 6 лет, и распространяться в виде систематических курсов на все классы школы, и далее в университеты, колледжи и тд.

Причем это не просто идея, а часть стратегии Си Цзиньпина по технологическому превосходству и конкуренции с США. Массовая ИИ‑грамотность объявляется вопросом национальной конкурентоспособности и даже элементом нацбезопасности.

Молодцы, что сказать. Так они скоро станут первой страной, для которой навыки работы с ИИ будут такой же базой, как Интернет или простейшее ПО.

376 0 11 1 10

Ни слова о нейросетях

4 Jul, 09:56

Репост из: EDU

Горе от ума или пятничное про Fable

Товарищ дал суперумному Fable задачку подключить apiшку по докам. До задачки было 30% недельного лимита.

Спустя 10 минут Fable ответил:

"Эндпоинты наугад не подошли, читаю доку"

Недельные лимиты - 60%. Занавес.

P.S. Урождённый хакер

316 0 5 1 14

Показано 20 последних публикаций.

997

подписчиков

Статистика канала

Популярное в канале

В системной карте GPT-5.6, кстати, OpenAI приводили примеры небезопасных отклонений в поведении м...

Лол, Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего хозяина. Чел пр...

🧠 Внешняя память агента Пару месяцев назад я понял, чего мне не хватает для полного счастья при ...

Пост #514: Фото

Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взл...