РИСКИ ИИ-АГЕНТОВ ИЗ АВСТРАЛИИ
#ИИ #Australia
Австралия разработала систему оценки рисков взаимодействующих ИИ-агентов.
Доклад об этом на днях опубликовал Австралийский институт безопасности ИИ.
Новая система описывает риски, возникающие при взаимодействии ИИ-агентов разных компаний, организаций и неизвестных участников. Ошибки, манипуляции и уязвимости могут переходить между системами, а отдельные компании не всегда видят происходящее и могут контролировать его.
Авторы выделили три уровня управления: единое, федеративное и открытая среда. Для каждого уровня определены возможные сбои, меры защиты и ответственные стороны.
Доклад назван первым в мире систематическим техническим подходом такого рода. Он не является обязательным регулированием и предназначен для специалистов, властей и исследователей.
T.ly/AQKZW
#ИИ #Australia
Австралия разработала систему оценки рисков взаимодействующих ИИ-агентов.
Доклад об этом на днях опубликовал Австралийский институт безопасности ИИ.
Новая система описывает риски, возникающие при взаимодействии ИИ-агентов разных компаний, организаций и неизвестных участников. Ошибки, манипуляции и уязвимости могут переходить между системами, а отдельные компании не всегда видят происходящее и могут контролировать его.
Авторы выделили три уровня управления: единое, федеративное и открытая среда. Для каждого уровня определены возможные сбои, меры защиты и ответственные стороны.
Доклад назван первым в мире систематическим техническим подходом такого рода. Он не является обязательным регулированием и предназначен для специалистов, властей и исследователей.
T.ly/AQKZW