Репост из: Zangaro Today
🇿🇦 В конце апреля правительство ЮАР отозвало проект национальной политики в области искусственного интеллекта (Draft National Artificial Intelligence Policy), подготовленный Министерством связи и цифровых технологий и опубликованный 10 апреля. Он предусматривал механизмы регулирования использования ИИ, в том числе внесение изменений в Конституцию и Билль о правах, в законодательство, а также создание под эгидой Министерства связи целой экосистемы из пяти регулирующих органов – Национального регулятора ИИ, Национальной комиссии по ИИ, Совета по этике ИИ, Фонда страхования от несчастных случаев с участием ИИ (AI insurance superfund), поста омбудсмена по вопросам ИИ и Национального института проблем безопасного использования искусственного интеллекта.
Причина до ужаса смешная – минимум 7 из 67 ссылок на академические исследования оказались «галлюцинациями» ИИ. Некоторые вели на несуществующие научные журналы, а некоторые оказались вымышленными: в редакциях «Южноафриканского журнала философии», «ИИ и общество», и «Журнала этики и социальной философии» подтвердили порталу News24, что не обнаружили в своих архивах публикаций статей, на которые ссылается документ.
Министр связи Солли Малаци объяснил это тем, что цитаты были «включены в текст без должной верификации», хотя документ был одобрен Кабмином на заседаниях 25 марта и 1 апреля, а затем опубликован 10 апреля в правительственной газете для общественного обсуждения. Как пишет Daily Maverick, галлюцинации, скорее всего, начались в связи с тем, что документ ориентировался на аналогичные принципы регулирования ИИ в Евросоюзе, поэтому модель, не имевшая доступа к платным архивам научной периодики, «склеила» реально существующего Мюллера Шмидта с «Европейским журналом права и технологий» в синтетическую публикацию, подтверждающую положения документа.
Таким образом принцип «бдительного человеческого надзора» (англ. vigilant human oversight), продвигаемый авторами документа, не выдержал даже чернового этапа. Министерство немедленно приостановило в должности троих чиновников, а Малаци анонсировал дисциплинарные меры в отношении составителей и редакторов текста.
В ту же неделю, 30 апреля, Министерство внутренних дел анонсировало аналогичные меры в отношении двух должностных лиц после того, как аналогичные «галлюцинации» были обнаружены в уже одобренной кабмином Белой книге по вопросам гражданства, иммиграции и защиты беженцев. При этом масштабы «галлюцинаций» там куда серьезнее – News24 сообщил о как минимум 102 из 148 фейковых ссылках, включая самую первую.
Министерство вынуждено было обратиться к услугам двух юридических фирм, которые должны проверить все министерские документы, вышедшие с 30 ноября 2022 года, когда была опубликована первая большая языковая модель ChatGPT. Тем не менее, в отличие от Минсвязи, которое сочло свой проект окончательно дискредитированным, в МВД по-прежнему считают, что документ «полностью отражает позицию правительства». По версии ведомства, ссылки были вставлены (!) в документ уже после его завершения, что говорит о том, что библиографический перечень был отдан на аутсорс ИИ и добавлен, что называется, «для галочки».
Причина до ужаса смешная – минимум 7 из 67 ссылок на академические исследования оказались «галлюцинациями» ИИ. Некоторые вели на несуществующие научные журналы, а некоторые оказались вымышленными: в редакциях «Южноафриканского журнала философии», «ИИ и общество», и «Журнала этики и социальной философии» подтвердили порталу News24, что не обнаружили в своих архивах публикаций статей, на которые ссылается документ.
Министр связи Солли Малаци объяснил это тем, что цитаты были «включены в текст без должной верификации», хотя документ был одобрен Кабмином на заседаниях 25 марта и 1 апреля, а затем опубликован 10 апреля в правительственной газете для общественного обсуждения. Как пишет Daily Maverick, галлюцинации, скорее всего, начались в связи с тем, что документ ориентировался на аналогичные принципы регулирования ИИ в Евросоюзе, поэтому модель, не имевшая доступа к платным архивам научной периодики, «склеила» реально существующего Мюллера Шмидта с «Европейским журналом права и технологий» в синтетическую публикацию, подтверждающую положения документа.
Таким образом принцип «бдительного человеческого надзора» (англ. vigilant human oversight), продвигаемый авторами документа, не выдержал даже чернового этапа. Министерство немедленно приостановило в должности троих чиновников, а Малаци анонсировал дисциплинарные меры в отношении составителей и редакторов текста.
В ту же неделю, 30 апреля, Министерство внутренних дел анонсировало аналогичные меры в отношении двух должностных лиц после того, как аналогичные «галлюцинации» были обнаружены в уже одобренной кабмином Белой книге по вопросам гражданства, иммиграции и защиты беженцев. При этом масштабы «галлюцинаций» там куда серьезнее – News24 сообщил о как минимум 102 из 148 фейковых ссылках, включая самую первую.
Министерство вынуждено было обратиться к услугам двух юридических фирм, которые должны проверить все министерские документы, вышедшие с 30 ноября 2022 года, когда была опубликована первая большая языковая модель ChatGPT. Тем не менее, в отличие от Минсвязи, которое сочло свой проект окончательно дискредитированным, в МВД по-прежнему считают, что документ «полностью отражает позицию правительства». По версии ведомства, ссылки были вставлены (!) в документ уже после его завершения, что говорит о том, что библиографический перечень был отдан на аутсорс ИИ и добавлен, что называется, «для галочки».