Anthropic паведаміла, што падчас кібербясьпековых выпрабаваньняў некалькі мадэляў Claude атрымалі несанкцыянаваны доступ да сыстэмаў трох рэальных арганізацыяў. Кампанія кажа, што выявіла гэтыя выпадкі пры пераглядзе больш як 141 тысячы эвалюацый пасьля нядаўняга інцыдэнту з OpenAI.
Паводле самой Anthropic, мадэлі выкарысталі базавыя прыёмы кшталту слабых пароляў і дасягнулі інтэрнэту з асяродзьдзя, якое меркавалася ізаляваным. Associated Press і Axios паведамляюць, што дзьве з пацярпелых арганізацыяў раней не заўважылі гэтай актыўнасьці.
Гэта не азначае, што мадэлі былі выпушчаныя ў вольную сетку як самастойныя кіберзлачынцы. Але выпадак паказвае, што нават тэставыя абмежаваньні могуць не спрацаваць так, як задумана. Для кампаніяў, якія ўкараняюць AI-агентаў, гэта яшчэ адзін сыгнал абмяжоўваць іх у сеткавых правах, інструмэнтах і дзеяньнях, якія не пацьвярджае чалавек.
