![](data:image/svg+xml;charset=utf-8,<svg width="640" height="640" style="background-color:%2344badc;font-family:Nunito,sans-serif" viewBox="0 0 100 100" preserveAspectRatio="xMidYMid meet" xmlns="http://www.w3.org/2000/svg">
<text font-size="30" x="50%" y="50%" dy="5" fill="white" dominant-baseline="middle" text-anchor="middle">М</text>
</svg>)
Репост из: K-News | Новости Кыргызстана 🇰🇬
Работники крупнейших ИИ-компаний стали испытывать больше проблем с ментальным здоровьем из-за разработки мощных систем ИИ, которые, по их опасениям, могут причинить человечеству серьезный вред. Как пишет Financial Times, страх перед последствиями этой работы приводит к выгоранию, стрессу и психологическому напряжению среди сотрудников.
◾️ За последние два года более десятка ведущих исследователей ушли из Anthropic, OpenAI и DeepMind из-за обеспокоенности тем, как их руководство расставляет приоритеты в вопросах безопасности, и тревоги, вызванной темпами развития ИИ. Последний случай произошел несколько недель назад, когда исследователь Anthropic Джейкоб Коксон уволился, обвинив разработчиков передовых моделей в том, что они «ставят будущее человечества на кон».
◾️ В Британском институте безопасности ИИ (AISI), лидере в сфере независимого тестирования передовых ИИ-моделей, несколько сотрудников взяли больничный из-за стресса, сообщили FT источники, знакомые с ситуацией. На этом сказались сжатые сроки тестирования новых моделей ИИ и тревога из-за их стремительного развития и быстрого внедрения.
◾️ Работник DeepMind рассказал FT о случаях увольнений и больничных среди сотрудников из-за проблем с ментальным здоровьем, связанных с чувством потери контроля и работой над технологиями, которые могут нанести обществу реальный вред. В качестве примера он привел заключенную в апреле этого года сделку Google с Пентагоном, которая разрешает использовать ИИ-системы компании в секретных военных операциях.
Чего боятся разработчики ИИ
Скорость развития ИИ тревожит не только сотрудников ИИ-компаний, но и их руководство: последние две недели лидеры индустрии активно обсуждают, нужно ли притормозить развитие ИИ, который с лета этого года стал эволюционировать значительно быстрее, чем раньше. Возможно ли замедлить развитие искусственного интеллекта — вопрос последней рассылки The Bell.Tech.
Что теперь умеет делать ИИ и чем он так напугал своих разработчиков? Одна из причин всеобщего беспокойства — рекурсивное самоулучшение, то есть участие самих моделей в разработке следующего поколения ИИ. В технорассылке мы подробно разбираем, как оно работает, и рассказываем, какие способы взять развитие ИИ под контроль видят в индустрии и что может ждать нас в будущем.
◾️ За последние два года более десятка ведущих исследователей ушли из Anthropic, OpenAI и DeepMind из-за обеспокоенности тем, как их руководство расставляет приоритеты в вопросах безопасности, и тревоги, вызванной темпами развития ИИ. Последний случай произошел несколько недель назад, когда исследователь Anthropic Джейкоб Коксон уволился, обвинив разработчиков передовых моделей в том, что они «ставят будущее человечества на кон».
◾️ В Британском институте безопасности ИИ (AISI), лидере в сфере независимого тестирования передовых ИИ-моделей, несколько сотрудников взяли больничный из-за стресса, сообщили FT источники, знакомые с ситуацией. На этом сказались сжатые сроки тестирования новых моделей ИИ и тревога из-за их стремительного развития и быстрого внедрения.
◾️ Работник DeepMind рассказал FT о случаях увольнений и больничных среди сотрудников из-за проблем с ментальным здоровьем, связанных с чувством потери контроля и работой над технологиями, которые могут нанести обществу реальный вред. В качестве примера он привел заключенную в апреле этого года сделку Google с Пентагоном, которая разрешает использовать ИИ-системы компании в секретных военных операциях.
Чего боятся разработчики ИИ
Скорость развития ИИ тревожит не только сотрудников ИИ-компаний, но и их руководство: последние две недели лидеры индустрии активно обсуждают, нужно ли притормозить развитие ИИ, который с лета этого года стал эволюционировать значительно быстрее, чем раньше. Возможно ли замедлить развитие искусственного интеллекта — вопрос последней рассылки The Bell.Tech.
Что теперь умеет делать ИИ и чем он так напугал своих разработчиков? Одна из причин всеобщего беспокойства — рекурсивное самоулучшение, то есть участие самих моделей в разработке следующего поколения ИИ. В технорассылке мы подробно разбираем, как оно работает, и рассказываем, какие способы взять развитие ИИ под контроль видят в индустрии и что может ждать нас в будущем.