Михаил Зырянов
Репост из: Crypto Headlines
Видео недоступно для предпросмотра
Смотреть в Telegram
😳 «Мы все можем умереть» – создатели AI понимают риски, но продолжают гонку.
В интервью CNN бывший исследователь OpenAI и Anthropic Джейкоб Коксон заявил, что сотрудники ведущих AI-лабораторий действительно допускают уничтожение человечества. Руководители могут смягчать формулировки публично, но в частных разговорах выражают настоящий страх.
Главная угроза появится, когда AI сможет самостоятельно улучшать себя. Это запустит «взрыв интеллекта» – модели будут становиться умнее без участия человека, пока не превзойдут людей настолько, что контролировать их станет невозможно.
В интервью NBC Джейкоб Коксон добавил, что внутри компаний уже всерьез обсуждают сценарии, при которых AI сможет взламывать критическую инфраструктуру или способствовать созданию смертельно опасного вируса.
И самое интересное – разработчики понимают риски, но продолжают гонку. Anthropic опасается OpenAI и Китая, поэтому не хочет замедляться первой. Компании фактически оказались в ловушке – каждая боится, что конкурент доберется до сверхмощного AI раньше.
Ранее: AI уничтожит человечество
Crypto Headlines
В интервью CNN бывший исследователь OpenAI и Anthropic Джейкоб Коксон заявил, что сотрудники ведущих AI-лабораторий действительно допускают уничтожение человечества. Руководители могут смягчать формулировки публично, но в частных разговорах выражают настоящий страх.
Главная угроза появится, когда AI сможет самостоятельно улучшать себя. Это запустит «взрыв интеллекта» – модели будут становиться умнее без участия человека, пока не превзойдут людей настолько, что контролировать их станет невозможно.
В интервью NBC Джейкоб Коксон добавил, что внутри компаний уже всерьез обсуждают сценарии, при которых AI сможет взламывать критическую инфраструктуру или способствовать созданию смертельно опасного вируса.
И самое интересное – разработчики понимают риски, но продолжают гонку. Anthropic опасается OpenAI и Китая, поэтому не хочет замедляться первой. Компании фактически оказались в ловушке – каждая боится, что конкурент доберется до сверхмощного AI раньше.
Ранее: AI уничтожит человечество
Crypto Headlines