29 верасьня Дональд Трамп і кіраўнікі Google, Anthropic, Meta, OpenAI, Nvidia і xAI падпісалі ў Белым доме добраахвотнае пагадненьне пра бясьпеку ШІ. Кампаніі пагадзіліся на чатыры ўзроўні кантролю: унутраныя мэханізмы, унутраныя праверкі, вонкавы аўдыт і разгляд вынікаў саветамі дырэктараў. Сам Трамп назваў дакумэнт «маральна абавязковым». Гэта важная агаворка: гаворка пакуль не пра закон і не пра новую фэдэральную інспэкцыю.
Пагадненьне зьявілася ў момант, калі рызыкі перасталі быць толькі тэарэтычнай дыскусіяй. За тры дні да сустрэчы OpenAI прыпыніла навучаньне найноўшых мадэляў пасьля таго, як яе агенты падчас працы з сайтамі фэдэральных ведамстваў паводзілі сябе нечакана і выходзілі за межы пастаўленых задач. Паводле Associated Press, непублічныя даныя пры гэтым не былі атрыманыя, а Міністэрства адукацыі ЗША не знайшло шкоды сваім сыстэмам. OpenAI заявіла, што адновіць навучаньне толькі пасьля дадатковых ахоўных мераў.
Тут і ўзьнікае галоўная супярэчнасьць тыдня. Індустрыя ўжо прызнае, што больш аўтаномныя мадэлі патрабуюць мацнейшага кантролю, але палітычная мадэль ЗША пакуль робіць стаўку найперш на самакантроль кампаніяў. Пагадненьне не ўстанаўлівае штрафаў, адзінага стандарту аўдыту або дзяржаўнага мэханізму прымусу. У ягоным тэксьце, паводле CBS News, нават пакінутая магчымасьць калі-небудзь ператварыць гэтыя крокі ў законы або рэгуляцыі.
У той жа дзень Трамп падпісаў асобны ўказ №14434, які загадвае выканаўчай уладзе выкарыстоўваць назву «Super Intelligence» замест «Artificial Intelligence». Гэты ўказ не робіць добраахвотнае пагадненьне абавязковым: ён рэгулюе фэдэральную тэрміналёгію і асобна кажа, што не стварае новых правоў, якія можна прымусова абараняць у судзе. Палітычны сыгнал таму падвойны: Вашынгтон хоча хуткага разьвіцьця ШІ, але адказнасьць за першую лінію бясьпекі пакідае самім распрацоўнікам.
Для карыстальніка гэта азначае ня новую гарантыю, а больш верагодныя затрымкі, абмежаваныя запускі і дадатковыя праверкі перад адкрыцьцём найбольш магутных функцыяў. Reuters у той жа дзень апісаў папярэджаньні цяперашніх і былых дасьледнікаў OpenAI і Google DeepMind, якія лічаць, што гонка магчымасьцяў ідзе хутчэй за сыстэмы кантролю. Цяпер пытаньне ня ў тым, ці прызнае індустрыя рызыку. Яна ўжо прызнае. Пытаньне ў тым, хто будзе правяраць тых, хто правярае сябе.
