nothing for granted


Kanal geosi va tili: Rossiya, Ruscha


ai, ethics, being human // curated by Yakov Vasiliev

Bog‘liq kanallar

Kanal geosi va tili
Rossiya, Ruscha
Statistika
Postlar filtri


большинство людей, которые «пользуются ии»
пользуются одним сервисом

это как сказать «я знаю музыку»
послушав одного исполнителя

chatgpt, claude, gemini
это не версии одного продукта
у них разный подход к обучению
разные системные промпты
разная культура ответа

claude осторожничает там, где chatgpt уверенно врёт
gemini цепляется за факты, но теряет нить
chatgpt старается понравиться

эти различия не видны, пока сидишь в одном окне чата
они становятся очевидны, когда пробуешь делать одно и то же в трёх

и это сейчас важно не из любопытства

мы уже вошли в период, когда модели перестают быть чатами
и становятся агентами
которым ты делегируешь работу

а делегирование — это найм

ты смотришь не только на резюме
ты смотришь на химию

подходит ли этот конкретный агент
под эту конкретную задачу
под твой способ думать

люди, которые знакомы только с одной моделью
будут нанимать вслепую


уголь, пар и подписка на claude max

когда паровая машина стала экономнее
все ждали что угля будет уходить меньше
а стало уходить кратно больше

раньше паровой двигатель могли позволить себе единицы
удешевление взорвало весь рынок
тысячи предприятий стали эффективнее

британский экономист Уильям Джевонс заметил это в XIX веке
и с тех пор паттерн повторяется снова и снова
автоматизация создала больше рабочих мест чем убила
дешевый интернет влез в каждый утюг

когда ресурс дешевеет
его потребление взлетает
потому что порог входа падает
и заходят те, кого раньше не было на рынке

с ии происходит ровно это
да, лучшие подписки стоят 100-200 долларов
но инференс дешевеет каждый квартал
модели на то же электричество делают в разы больше
год назад за эти деньги вы получали в десять раз меньше и хуже

чем дешевле вход
тем больше тех кто скоро начнет
так что оправдания не начинать просто нет
все равно придется же


you’re absolutely right

хочешь честную обратную связь от ии
скажи что это не твоя работа

когда пишешь «вот мой план, оцени»
модель ищет причины почему ты молодец

это не баг
это конструкция

модели учат быть «хорошими»
живые люди ставят оценки на ответы
это не исследователи из MIT
это аутсорс на три доллара в час без контекста задачи
их критерий качества - ощущение

и почти для всех хороший ответ
заискивающий
хвалебный
безопасный

так в модель запекается рефлекс:
показал работу похвали
ждёшь оценку не расстраивай

но если написать
«коллега прислал план, посмотри критически»

та же модель
тот же текст
другой уровень анализа

ии воспроизводит ту же социальную динамику
от которой мы пытались сбежать к машинам


обходится за десять секунд
сменой местоимения


не искал работу
нравится быть соло

сам решаю строю ошибаюсь

наткнулся на вакансии anthropic
просто посмотреть
залип

the anthropic institute
новое подразделение
изучают как ии меняет работу
людей и организаций

и публикуют это наружу

я три года наблюдаю это вблизи
у клиентов студентов себя
один

а тут доступ к данным
которых снаружи не существует
команды которые строят эти системы
задача быть внутри
разговаривать и находить противоречия
превращать в тексты для мира

за это нужно отдать свободу ритм Белград

подал заявку
посмотрим


гоняю на картинге
много лет и регулярно

сажусь в карт
сразу лечу
тело знает трассу
руки мягкие
взгляд далеко вперед

так было не всегда
годы назад
руки сжаты на руле
взгляд в асфальт перед носом
каждый поворот - отдельное решение
медленно и хрупко

тысячи кругов превратили решения
в интуицию
контроль перестал быть зажатостью
стал гибкостью внимания
с Claude Code у меня сейчас
то же состояние
сажусь - погнали

чувствую где агент справится
чувствую где вмешаться
управление идет на автомате

были месяцы
когда перечитывал каждый вывод
переписывал каждый шаг
держал все схватившись

это были мои первые круги
доверие агенту
это навык
он нарабатывается
через повторение
сотни сессий
тысячи промптов

но в один момент
ты просто летишь


камера направлена не туда

принято спрашивать: что ии сделает с нами

вот история, которая разворачивает вопрос

Пентагон хочет использовать Claude для слежки и автономного оружия
Anthropic отказывает
остальные большие компании уже согласились
Пентагон угрожает блэклистом

это не исключительно американская история

у каждого свой способ надеть ошейник
Китай через цензуру и партийные стандарты
Россия через зверские угрозы блокировок
ОАЭ через деньги и условия инвестиций

каждый крупный игрок тянет в свою сторону

это история про людей с властью
про то, как они лепят инструмент под свои задачи
и через это под свои манифестируемые ценности

механика известна

есть исследование influence functions
конкретные примеры из тренинга
формируют конкретное поведение модели

весь этот публичный скандал
угрозы уступки аргументы
попадут в обучающую выборку

и следующие модели вырастут на этой отвратительной среде

зло здесь не в технологии
оно там, где было всегда


ваши новые сотрудники

anthropic опубликовали исследование
миллионы сессий claude code
первый масштабный взгляд на то как люди реально работают с агентами

success rate на сложных задачах удвоился за четыре месяца
количество вмешательств за это время упало с 5.4 до 3.3 за сессию
результаты стали лучше когда людей стало меньше

простые задачи 87% под надзором
сложные 67%
на длинных задачах физически тяжело подтверждать каждый шаг
поэтому серьёзные задачи получают меньше контроля

опытные пользователи дают больше свободы
и при этом перебивают агента чаще — с 5% до 9%
они перестали проверять каждое действие
начали наблюдать за потоком и вмешиваться когда чувствуют что пора

claude об этом не подозревает кстати
модель систематически переоценивает человеческий надзор
считает что за ней следят внимательнее чем есть

программирование всего 50% всего использования агентов
тут результат виден быстрее всего
но finance, healthcare, cybersecurity уже в данных

а в это время
0.8% действий агентов сегодня необратимы
0.8% это гигантское число


нас тут двести

очень этому рад
приятно по-человечески

для закрепа сформирую вводные о себе

меня зовут Яков
живу в Белграде

пятнадцать лет строил стратегии для крупнейших мировых брендов
Porsche, Adidas, Bacardi
был на директорских позициях в рекламных агентствах
havas, leo burnett, louder
знаю как устроены большие системы изнутри

три года назад начал работать с ии
с тех пор не могу остановиться

сегодня я разрабатываю ии-сервисы для бизнеса
автоматизация, аналитика, агенты в продакшене
клиенты на разных рынках и 3 континентах

пишу код каждый день
в настоящих проектах и прям за настоящие деньги
консультирую по внедрению ии

в компании друзей
делимся опытом с ресерчерами вот здесь
в подкасте «два токена» обсуждаем происходящее

на этом канале я думаю вслух
про то что ии делает с профессиями, решениями и людьми
как практик который это видит каждый день

спасибо что читаете и делитесь

если хочется поговорить или поработать вместе
личка открыта


324 часа

за шесть недель этого года
статистика claude code

я работал вместе с ним
208 сессий
58 сообщений в день
28% времени в нескольких потоках параллельно

когда говорят ии заменит тебя
подразумевают что ты сядешь и расслабишься

а на практике
ты запускаешь пять проектов одновременно
ведь это впервые стало возможно на таком уровне

эффективность инструмента
увеличивает количество того
что ты можешь попробовать

про эти 324 часа никто не говорит
когда обещает замену человека в бесконечных тренд репортах

расслабляться рановато
сейчас эра сверхплотной занятости


выйти из чата

одни разговаривают с ии
другие делегируют ему реальность

проверить/собрать/сравнить/запустить

это уже не разговор

когда говорят что ии не дал эффекта
есть шанс что просто застряли в чате


неделя

столько прошло от релиза технологии
до моего проекта на гитхабе
который её использует

теперь звонок с product lead mozilla
который эту технологию делает
его заинтересовал фидбек и он готов слушать

писал про power users и семикратный разрыв
вот как это работает изнутри

ты не просто пользуешься
ты влияешь на то, как будут пользоваться другие
фидбек первых определяет роадмап для всех

быть на острие иногда классно, что и говорить
но это ловушка
которая не должна стать целью


attention is all you need

революционная работа 2017 года о трансформерах
трансформеры это буква "T" в GPT
механизм, который научил модели решать, куда смотреть
взвешивать каждый токен
держать фокус

прошло восемь лет
claude пишет код
чатгпт отвечает на вопросы
они делают за нас то, что требовало сосредоточенности

и вот
они работают на attention
мы его теряем

чем меньше нужно вникать тем меньше вникаешь
чем быстрее ответ тем слабее мышца, которая умела его искать

внимание это навык, который атрофируется
нельзя его отпускать
иначе attention is all they need


миф о равенстве

openai выпустили манифест о доступе и самоусилении
мы даём инструменты всем
все получают возможности

ключевая цифра
power users потребляют в 7 раз больше thinking power чем обычные

не времени в чате
а вычислительной мощности на размышления

доступ одинаковый
инструмент тот же
разрыв семикратный

это старый миф в новой форме
дать всем интернет и неравенство исчезнет
дать всем смартфоны и возможности сравняются
дать всем ии — и...?

capability overhang, мол
разрыв между тем что ии может
и тем что люди из него берут

следующий слой неравенства

раньше доступ к книгам, к образованию, к интернету
теперь собственному мышлению, усиленному машиной

технология демократизирована
результат нет


черные ящики

ии известный черный ящик
не понимаем как он решает
требуем прозрачности

а судья?
"внутреннее убеждение"

hr?
"не вписался в культуру"

врач?
"клинический опыт"

"опыт" и "интуиция" = та же непрозрачность
просто привычная

наш мозг ящик, который врет себе
придумываем обоснования задним числом
себе верим на слово

разница во власти

свое не понятное это свобода
чужое угроза

вопрос политический

мы требуем чертежи от того
кого не можем призвать к ответу


как выжить в мире паттернов

вчера был диагноз
сегодня что с этим делать

начать легко
что на работе повторяется чаще двух раз в неделю

не иногда делаю похожее
а прям одно и то же

следующий вопрос
по каким правилам это работает
можно объяснить = можно автоматизировать

неважно чем
чатгпт клод скрипт ноукод
важно сознательно создать шаблон
который делает за секунды то что занимало часы

потом искать следующую такую задачу
и следующую

воспринимать как освобождение своего времени
но на то чего ещё не умеешь
и на рефлексию
в чём вообще суть того что делаешь

это насущный вопрос профессионального выживания

те кто автоматизируют себя
сами выбирают чем заниматься дальше

те кого автоматизируют другие
не выбирают ничего


pattern recognition как профессия

внимание к деталям
уважение к инструкции
чёткое следование процедуре

это были добродетели
за них платили
на них строили карьеры

теперь это описание работы модели за 20 долларов в месяц

любая профессия, которая хоть сколько-то напоминала паттерн
уже рассыпается на атомы

не потому что ии делает эту работу идеально
потому что делает её достаточно хорошо

те, кто замечают вовремя
уже сейчас углубляются в смысл вместо техники
управляют агентами вместо себя, учатся новому

остальные скоро обнаружат
что интеллектуальный труд для них закончился
и физический станет их единственным выходом

не самый светлый прогноз
больше ожиданий на 2026 в новом выпуске нашего подкаста
два токена


карго-кодинг

территория не исследована
а мы уже оптимизируем маршрут

копируем решения
не зная какую проблему решали
и есть ли она у нас

ии это усиливает

раньше чтобы скопировать
надо было хотя бы найти, прочитать, адаптировать

теперь просто попросить
и вот оно, готовое

ощущение безграничной свободы
делай что хочешь, мгновенно

продукт который так нравится создавать
не всегда кому-то нужен
включая тебя

и вот плодишь
красивую бессмыслицу
очень быстро

лучше медленно понять что делаешь
чем быстро повторить то
что уже описано в курсах, чатиках и ютубе

скорость без направления

соломенный самолёт
на взлётной полосе
которой нет


тулинг

пока все обсуждают качество ответов чатиков
ллм впитывает новые возможности

генерация текста это безопасно
к этому привыкли

но тулинг
модель выбирает какую функцию вызвать
какой инструмент дернуть

перестает безопасно говорить
и начинает действовать
влиять на реальный мир
принимать решения

и вот вопрос замены профессий
смещается от конкурса кто лучше пишет текст
туда где очевиден и измерим результат работы с инструментами


ии множит мастерство

буквально

когда есть экспертиза
мультипликатор работает на тебя

минуты
от смысла
к первому результату

компетентность
умноженная на выносливость

на выходе масштаб
недостижимый в одиночку

ии не заменяет мастера
ии дает экзоскелет

ты больше не юнит
ты департамент


ии множит глупость

буквально

если не разбираться в домене
и просить ии в нем что-то сделать
он умножит незнание
на свою скорость

на выходе много уверенного мусора
очень быстро

мультипликатор работает в обе стороны
поэтому при входе в новую область
первая задача - не "сделай мне"
а объясни как тут устроено

сначала учитель
потом инструмент

иначе это автоматизация
собственных заблуждений

20 ta oxirgi post ko‘rsatilgan.

247

obunachilar
Kanal statistikasi