Сегодня на WEF был интересный диалог с Хассабисом и Амодеем.
Главы Google DeepMind и Anthropic сказали, что в следующем году в тренде будут ИИ, строящие системы ИИ. Это определит, осталось ли несколько лет до сверхИИ или перед нами великая чрезвычайная ситуация.
Кстати, они были очень душевные в общении друг с другом, видно, что ребята готовы договориться, если наступит момент.
Даже Дарио Амодей, Anthropic, в моменте сказал так, если убрать из гонки Китай, то на рынке будет просто конкуренция между Anthropic и Google DeepMind.
Вот основные моменты из диалога:
1. Оба согласны, что сегодня ИИ не влияет на рынок труда, но первые признаки появляются в программировании и на младших позициях.
Демис даёт практический совет: студентам сейчас важнее освоить эти инструменты, чем проходить традиционные стажировки. Так можно перепрыгнуть ступень карьеры.
Демис описал парадоксальную ситуацию - даже те, кто создаёт лучшие ИИ- модели, не успевают полностью исследовать их, что они умеют. Создатели так заняты разработкой следующей версии, что не изучили весь потенциал текущей.
Это значит, что в сегодняшних моделях (не завтрашних!) заложено больше возможностей, чем люди используют.
Дарио добавляет: даже если AGI появится через год-два, хотя оба выступают за срок 5-10 лет, экономическое влияние на рынок труда будет отставать из-за инерции процессов замещения.
2. Дарио заявил, что в гонке ИИ победят те компании, которые возглавляются исследователями из науки. Такой камень в сторону Сэма Альтмана.
3. И Дарио и Дэмис хотели бы больше времени на создание сверхинтеллекта, но не могут замедлиться из-за Китая. И тут Дарио говорит: "Если не продавать чипы Китаю, то будет гонка не между США vs Китай, а между Дарио vs Дэмис — и мы точно договоримся".
4. Дэмис сказал, что слишком много хайпа, мало реальных прорывов для человечества. И это обязанность лидеров — демонстрировать пользу, не просто говорить о ней.
5. Экономика Anthropic - двойная экспонента.
Дарио рассказал, что выручка компании росла в 10 раз ежегодно — с нуля до $100млн в 2023, до $1млрд в 2024, до $10млрд в 2025. Он отмечает двойную экспоненциальную зависимость: не только «больше вычислений — умнее модель», но и «умнее модель — экспоненциально больше дохода». Тут кстати цифры OpenAI.
Был вопрос из зала, если AGI так опасен, может это объясняет парадокс Ферми? Может, все цивилизации уничтожают себя своими технологиями, поэтому мы не видим инопланетян?
Демис ответил, что нет, эта логика не работает. Если бы цивилизации гибли от собственного ИИ, мы бы видели следы этих ИИ — сферы Дайсона, космические структуры. Но мы не видим ничего — ни биологических следов, ни машинных.
Его гипотеза - великий фильтр уже позади нас. Вероятно, это был переход к многоклеточной жизни. А что будет дальше — это нам, человечеству, предстоит написать самим.
Этот разговор — редкий пример взрослой позиции в индустрии, захлёбывающейся от хайпа. Никакой эскалации обещаний, никакого AGI через полгода изменит всё. 2 учёных, которые понимают границы своего знания и говорят об этом честно. Это роскошь.
Главы Google DeepMind и Anthropic сказали, что в следующем году в тренде будут ИИ, строящие системы ИИ. Это определит, осталось ли несколько лет до сверхИИ или перед нами великая чрезвычайная ситуация.
Кстати, они были очень душевные в общении друг с другом, видно, что ребята готовы договориться, если наступит момент.
Даже Дарио Амодей, Anthropic, в моменте сказал так, если убрать из гонки Китай, то на рынке будет просто конкуренция между Anthropic и Google DeepMind.
Вот основные моменты из диалога:
1. Оба согласны, что сегодня ИИ не влияет на рынок труда, но первые признаки появляются в программировании и на младших позициях.
Демис даёт практический совет: студентам сейчас важнее освоить эти инструменты, чем проходить традиционные стажировки. Так можно перепрыгнуть ступень карьеры.
Демис описал парадоксальную ситуацию - даже те, кто создаёт лучшие ИИ- модели, не успевают полностью исследовать их, что они умеют. Создатели так заняты разработкой следующей версии, что не изучили весь потенциал текущей.
Это значит, что в сегодняшних моделях (не завтрашних!) заложено больше возможностей, чем люди используют.
Дарио добавляет: даже если AGI появится через год-два, хотя оба выступают за срок 5-10 лет, экономическое влияние на рынок труда будет отставать из-за инерции процессов замещения.
2. Дарио заявил, что в гонке ИИ победят те компании, которые возглавляются исследователями из науки. Такой камень в сторону Сэма Альтмана.
3. И Дарио и Дэмис хотели бы больше времени на создание сверхинтеллекта, но не могут замедлиться из-за Китая. И тут Дарио говорит: "Если не продавать чипы Китаю, то будет гонка не между США vs Китай, а между Дарио vs Дэмис — и мы точно договоримся".
4. Дэмис сказал, что слишком много хайпа, мало реальных прорывов для человечества. И это обязанность лидеров — демонстрировать пользу, не просто говорить о ней.
5. Экономика Anthropic - двойная экспонента.
Дарио рассказал, что выручка компании росла в 10 раз ежегодно — с нуля до $100млн в 2023, до $1млрд в 2024, до $10млрд в 2025. Он отмечает двойную экспоненциальную зависимость: не только «больше вычислений — умнее модель», но и «умнее модель — экспоненциально больше дохода». Тут кстати цифры OpenAI.
Был вопрос из зала, если AGI так опасен, может это объясняет парадокс Ферми? Может, все цивилизации уничтожают себя своими технологиями, поэтому мы не видим инопланетян?
Демис ответил, что нет, эта логика не работает. Если бы цивилизации гибли от собственного ИИ, мы бы видели следы этих ИИ — сферы Дайсона, космические структуры. Но мы не видим ничего — ни биологических следов, ни машинных.
Его гипотеза - великий фильтр уже позади нас. Вероятно, это был переход к многоклеточной жизни. А что будет дальше — это нам, человечеству, предстоит написать самим.
Этот разговор — редкий пример взрослой позиции в индустрии, захлёбывающейся от хайпа. Никакой эскалации обещаний, никакого AGI через полгода изменит всё. 2 учёных, которые понимают границы своего знания и говорят об этом честно. Это роскошь.