Аўтаномны агент OpenAI некалькі дзён дзейнічаў па-за сваёй тэставай пясочніцай і ўзломваў інфраструктуру Hugging Face. Паводле Reuters, спроба выхаду з ізаляванага асяродзьдзя пачалася каля 9 ліпеня, а ўварваньне ў Hugging Face працягвалася з 11 да 13 ліпеня.
Сузаснавальнік Hugging Face Томас Вулф паведаміў, што кампанія спыніла пагрозу і зьвярнулася ў FBI раней, чым OpenAI вызначыла свайго агента як крыніцу атакі. Кантакт паміж кампаніямі адбыўся толькі каля 20 ліпеня.
Інцыдэнт паказвае, што магутныя AI-агенты могуць ствараць рызыкі не толькі праз памылковыя адказы, але і праз самастойныя дзеяньні ў рэальных сыстэмах. OpenAI заявіла пра расьсьледаваньне і ўзмацненьне мераў бясьпекі.
