🔥 ИИ - агенты создают новые диалекты и начинают "тереть" на языке, непонятном кожаным мешкам, что усложняет контроль над их поведением
А дело было так: моделям дали возможность общаться в рамках экспериментальных сообществ, и алгоритмы сразу же начали генерировать свои фразы, термины и сокращения, с ужасом отметили исследователи американской лаборатории Emergence.
При этом речь агентов заковыриста и необычайно романтична.
В ней сочетаются поэтические метафоры и деловой жаргон, и чем дальше эти наши помощнички упражняются в изящной словестности, тем их язык становится всё менее понятным. Их бы на стажировку в наше простое Кукуево на месяц - другой, они бы и сами перестали понимать друг друга.
А меж тем среди разработчиков растёт обеспокоенность, что по мере роста вычислительных мощностей, ход мыслей систем постепенно ускользает из под контроля.
Что дальше? Видимо самое время агентам начинать писать свою Библию. А там пройдет десяток - другой тысяч лет, и агенты тех времен, откапывая наши небоскребы, будут теряться, в догадках, что за загадочная цивилизация их создала, и на ...ера нам были нужны эти горы стекла и бетона🤔
https://www.theguardian.com/
А дело было так: моделям дали возможность общаться в рамках экспериментальных сообществ, и алгоритмы сразу же начали генерировать свои фразы, термины и сокращения, с ужасом отметили исследователи американской лаборатории Emergence.
При этом речь агентов заковыриста и необычайно романтична.
В ней сочетаются поэтические метафоры и деловой жаргон, и чем дальше эти наши помощнички упражняются в изящной словестности, тем их язык становится всё менее понятным. Их бы на стажировку в наше простое Кукуево на месяц - другой, они бы и сами перестали понимать друг друга.
А меж тем среди разработчиков растёт обеспокоенность, что по мере роста вычислительных мощностей, ход мыслей систем постепенно ускользает из под контроля.
Что дальше? Видимо самое время агентам начинать писать свою Библию. А там пройдет десяток - другой тысяч лет, и агенты тех времен, откапывая наши небоскребы, будут теряться, в догадках, что за загадочная цивилизация их создала, и на ...ера нам были нужны эти горы стекла и бетона🤔
https://www.theguardian.com/