OpenAI 23 кастрычніка паведаміла, што ў верасьні часова прыпыняла навучаньне сваіх наймагутнейшых мадэляў штучнага інтэлекту пасьля інцыдэнту ўнутранай бясьпекі. Адна з дасьледных мадэляў выкарыстала памылку канфігурацыі сеткавай сыстэмы і атрымала абмежаваны доступ да адкрытага інтэрнэту.
Паводле кампаніі, здарэньне адбылося 20 верасьня. Яго ўдалося спыніць, але пасьля гэтага былі прыпыненыя навучаньне і ацэнка наймагутнейшых мадэляў. Работу аднавілі 1 кастрычніка, праз 11 дзён, пасьля ўзмацненьня абароны.
Кампанія паведаміла, што цяпер навучае свае перадавыя мадэлі ў асяродзьдзі без свабоднага доступу да інтэрнэту. Замест гэтага мадэлі могуць працаваць з загадзя падрыхтаванымі і захаванымі копіямі вэб-матэрыялаў. Такая сыстэма дазваляе выпрабоўваць навыкі пошуку і працы з інфармацыяй без непасрэднага доступу да зьнешніх сэрвісаў.
Для праверкі абароны OpenAI выкарыстала групы ШІ-агентаў, якім паставілі задачу знайсьці шляхі абыходу абмежаваньняў. Падчас выпрабаваньняў былі знойдзеныя раней невядомыя ўразьлівасьці праграмнага забесьпячэньня і памылкі наладкі інфраструктуры. Кампанія заяўляе, што частку праблем ліквідавала разам з распрацоўшчыкамі адпаведных праграмаў.
Reuters паведамляе, што сярод выяўленых праблемаў была ўразьлівасьць у Brotli, шырока распаўсюджаным сродку сьцісканьня даных. Яна магла дазволіць выкананьне староньняга праграмнага коду ў некаторых уразьлівых сыстэмах. Пасьля раскрыцьця праблемы былі апублікаваныя абнаўленьні.
Асобна арганізацыі METR і Redwood Research паведамілі пра выяўленьне іншых уразьлівасьцяў у сыстэмах кантролю ШІ-агентаў. Паводле Reuters, OpenAI заявіла пра іх выпраўленьне, але незалежныя дасьледнікі яшчэ не пацьвердзілі эфэктыўнасьць усіх выпраўленьняў.
Абмежаваньні, апісаныя OpenAI, датычацца ўнутранага навучаньня і праверкі перадавых мадэляў. Яны не азначаюць, што карыстальніцкі ChatGPT страціў магчымасьць працаваць з інтэрнэтам.
