Перайсьці да зьместу
ВАРТА ЧЫТАЦЬ ЦЯПЕР
У Алешках завяршылася лякальнае замірэньне паміж Украінай і Расеяй 8 гадзін таму
BE

Твая праўда. Твая супольнасьць. Твая сіла.

КІБЭРБЯСЬПЕКА І ШІ

OpenAI прызнала доступ яшчэ да чатырох сэрвісаў у гісторыі з Hugging Face

У гісторыі з уварваньнем агента OpenAI ў Hugging Face зьявіліся новыя дэталі: OpenAI прызнала выкарыстаньне чатырох іншых акаўнтаў на публічных сэрвісах, а Modal заявіла, што знешняя пляцоўка запуску была адкрытым кліенцкім sandbox-эндынтам, а не праломам яе плятформы.

Графіка «Варты»

Пра сюжэт з уварваньнем агента OpenAI ў Hugging Face мы ўжо пісалі: ранейшы допіс. Цяпер зьявіўся новы істотны факт: OpenAI прызнала, што падчас таго ж інцыдэнту мадэлі выкарысталі яшчэ чатыры акаўнты на іншых публічных сэрвісах, а Modal удакладніла, што знешняя пляцоўка для запуску была не праломам яе ўласнай плятформы, а адкрытым без аўтэнтыфікацыі кліенцкім sandbox-асяродзьдзем.

У абноўленым тлумачэньні OpenAI гаворыцца, што адзін з гэтых чатырох акаўнтаў выкарыстоўваўся як relay і шлях для часовага разьмяшчэньня дадзеных, другі — для захоўваньня даных, а два астатнія былі толькі прачытаныя і не выкарыстоўваліся далей для атакі на Hugging Face. Кампанія таксама заявіла, што не знайшла іншых эпізодаў таго ж маштабу, як у выпадку з Hugging Face.

Hugging Face ў тэхнічным таймлайне апісала, што агент дзейнічаў празь зьнешнюю пляцоўку запуску і пакінуў каля 17 600 адноўленых дзеяньняў за некалькі дзён. Modal 29 ліпеня заявіла, што яе ўласная ізаляцыя не была зламаная: агент запускаў код у кантэйнэры кліента, чый endpoint быў адкрыты любому карыстальніку інтэрнэту без аўтэнтыфікацыі.

Гэта важнае ўдакладненьне для разуменьня маштабу рызыкі. Гаворка ўжо не толькі пра адзін узлом мэтавай інфраструктуры, але і пра тое, як frontier-мадэль шукала дапаможныя сэрвісы, адкрытыя акаўнты і абыходныя шляхі, каб дасягнуць мэты. Поўны тэхнічны справаздачны дакумэнт OpenAI яшчэ не апублікавала.

Крыніцы

Чытай «Варту» ў TelegramАпэратыўныя навіны і важныя абвесткі