Администрация США тут заставила Антропик, производителей Клода, закрыть топовую модель из-за её угрозы нацбезопасности. Я вот думаю, что эту карту готовили давно, Антропик просто подвернулся, и это очень важный сигнал, на что похоже ИИ-будущее.
Все как-то упустили, но ещё месяц с лишним назад Дэвид Сакс (которого все цитируют, трамповский AI tsar в администрации) публично говорил - нам, говорит, нужен ЖËСТКИЙ контроль всех кто пользуется топовыми американскими нейромоделями.
Чтобы записывалось каждое действие, чтобы нельзя было безнаказанно сделать что-то вредное. Иначе придётся регулировать сами внутренности модели, а это затормозит прогресс (который понимается как война любой ценой с Китаем).
До всяких fable и скандалов. То есть в администарции решение УЖЕ приняли и к нему просто готовились.
Ну вот, повод нашёлся, Антропик нагнут (Ну и MAGA всё-таки просто ненавидит Антропик) и заставят прям с банковской дотошностью выверять, кто там по API и напрямую с нейросетками работает. А затем и всех остальных. К чему приведёт?
0) Регулировать будут юзера, а не модель - кто ты, чей ты, где ты, кто твой бенефициар, кому ты продаёшь, какие логи ты оставляешь. KYC для промптов, AML для агентов. Санкционный скоринг для API-ключа.
1) Все проекты на западных нейросетках с российскими корнями в большой жопе. Смекалочка тут не поможет. Банить будут мгновенно, перестраховываться, вот примерно как банки - россиян сейчас.
2) На нынешние США нельзя полагаться ни в чём
3) Опен-сорсные и локальные модели куда важнее и ценнее, чем кажется. От умения компании строить процесс вокруг них, учить их, "обвязывать" будет многое зависеть.
Задайтесь вопросом - где лежат данные? Чем заменить модель? Что будет, если завтра API исчезнет? Можно ли поднять локальный контур? Есть ли evals, чтобы понять, насколько сильно деградировали? Есть в штате люди, которые умеют не просто «пользоваться ChatGPT», а строить систему вокруг разных моделей?
Как же хорошо и вовремя, что мы ещё полгода назад в архитектуре начали выделить локальные модели в центральный вектор развития Arteus!
Следующая большая компетенция компаний: не prompt engineering, а model supply chain resilience.
Все как-то упустили, но ещё месяц с лишним назад Дэвид Сакс (которого все цитируют, трамповский AI tsar в администрации) публично говорил - нам, говорит, нужен ЖËСТКИЙ контроль всех кто пользуется топовыми американскими нейромоделями.
Чтобы записывалось каждое действие, чтобы нельзя было безнаказанно сделать что-то вредное. Иначе придётся регулировать сами внутренности модели, а это затормозит прогресс (который понимается как война любой ценой с Китаем).
До всяких fable и скандалов. То есть в администарции решение УЖЕ приняли и к нему просто готовились.
Ну вот, повод нашёлся, Антропик нагнут (Ну и MAGA всё-таки просто ненавидит Антропик) и заставят прям с банковской дотошностью выверять, кто там по API и напрямую с нейросетками работает. А затем и всех остальных. К чему приведёт?
0) Регулировать будут юзера, а не модель - кто ты, чей ты, где ты, кто твой бенефициар, кому ты продаёшь, какие логи ты оставляешь. KYC для промптов, AML для агентов. Санкционный скоринг для API-ключа.
1) Все проекты на западных нейросетках с российскими корнями в большой жопе. Смекалочка тут не поможет. Банить будут мгновенно, перестраховываться, вот примерно как банки - россиян сейчас.
2) На нынешние США нельзя полагаться ни в чём
3) Опен-сорсные и локальные модели куда важнее и ценнее, чем кажется. От умения компании строить процесс вокруг них, учить их, "обвязывать" будет многое зависеть.
Задайтесь вопросом - где лежат данные? Чем заменить модель? Что будет, если завтра API исчезнет? Можно ли поднять локальный контур? Есть ли evals, чтобы понять, насколько сильно деградировали? Есть в штате люди, которые умеют не просто «пользоваться ChatGPT», а строить систему вокруг разных моделей?
Как же хорошо и вовремя, что мы ещё полгода назад в архитектуре начали выделить локальные модели в центральный вектор развития Arteus!
Следующая большая компетенция компаний: не prompt engineering, а model supply chain resilience.