ИИ-гонка - почти идеальная дилемма заключенного.
В теории игр это ситуация, когда двум игрокам выгоднее сотрудничать, но недоверие заставляет каждого действовать в своих интересах. В итоге оба получают худший результат. Примерно это сейчас происходит между США и Китаем в гонке ИИ.
Причины притормозить уже вполне реальные. AI-агенты становятся достаточно сильными для поиска уязвимостей и кибератак, а в тестах передовых моделей уже фиксируют нежелательное поведение и попытки обходить ограничения. Логика замедления в том, чтобы дать безопасности хотя бы немного времени догнать возможности моделей.
Но если США замедлятся, а Китай продолжит - преимущество получит Китай. Если первым остановится Китай - наоборот. Поэтому для каждого по отдельности рациональнее продолжать гонку, даже если обоим вместе было бы выгоднее сбавить темп.
В этом и неприятность дилеммы заключенного: разумное решение каждого может привести к плохому результату для всех.
Японский продакт
В теории игр это ситуация, когда двум игрокам выгоднее сотрудничать, но недоверие заставляет каждого действовать в своих интересах. В итоге оба получают худший результат. Примерно это сейчас происходит между США и Китаем в гонке ИИ.
Причины притормозить уже вполне реальные. AI-агенты становятся достаточно сильными для поиска уязвимостей и кибератак, а в тестах передовых моделей уже фиксируют нежелательное поведение и попытки обходить ограничения. Логика замедления в том, чтобы дать безопасности хотя бы немного времени догнать возможности моделей.
Но если США замедлятся, а Китай продолжит - преимущество получит Китай. Если первым остановится Китай - наоборот. Поэтому для каждого по отдельности рациональнее продолжать гонку, даже если обоим вместе было бы выгоднее сбавить темп.
В этом и неприятность дилеммы заключенного: разумное решение каждого может привести к плохому результату для всех.
Японский продакт