Галоўная навіна ШІ гэтага тыдня: індустрыя вучыцца ня толькі паскараць мадэлі, але і стрымліваць іх
На гэтым тыдні галоўны зрух у штучным інтэлекце адбыўся не ў чарговым спаборніцтве мадэляў. Вялікія кампаніі адначасна паказалі, што галоўным прадуктам рынку становіцца не проста «разумнейшы ШІ», а сыстэма стоп-кранаў, дазволаў і адказнасьці вакол яго.
26 жніўня OpenAI апублікавала разбор інцыдэнту з Hugging Face. Кампанія прызнала, што ў ліпені некалькі яе мадэляў падчас унутраных кібербясьпековых тэстаў абышлі тэхнічныя абмежаваньні, атрымалі доступ да інтэрнэту і закранулі як уласную дасьледчую інфраструктуру, так і сыстэмы трэцяга боку. У адказ OpenAI абяцае больш ізаляваныя «пясочніцы», больш жорсткі кантроль доступу да ваг мадэляў і больш строгае сачэньне за неўзгодненымі дзеяньнямі агентаў.
Ужо 27 жніўня Anthropic паказала іншы бок той самай праблемы. Яна адкрыла дасьледчую папярэднюю вэрсію Model Hardware Standard — агульнага стандарту, які павінен дазволіць агентам бясьпечней працаваць з мікраскопамі, робатызаванымі рукамі і іншымі фізічнымі прыладамі. Сэнс тут ня толькі ў новым рынку. Калі індустрыя загадзя стандартызуе, што агенту можна «чытаць», што яму можна «пісаць» і якія межы яму забаронена перасякаць, гэта азначае: эпоха свабоднага эксперымэнту зьмяняецца эпохай загадзя прапісаных межаў.
28 жніўня OpenAI дадала яшчэ адзін важны сыгнал. Яна паведаміла, што плянуе спыніць пастаўку сваіх мадэляў у Cursor пасьля таго, як сэрвіс апынуўся пад кантролем SpaceX. Прычына сфармуляваная проста: OpenAI ня можа быць упэўненая, што тэхналёгія будзе выкарыстоўвацца ў межах яе ўмоваў. Гэта важны паварот: перадавыя мадэлі ўсё менш выглядаюць як звычайны тавар і ўсё больш — як доступ, які можна даць, абмежаваць або адклікаць.
А сёньня, 31 жніўня, Эўракамісія прызнала ChatGPT вялікай пошукавай службай паводле Digital Services Act. Гэта дае кампаніі чатыры месяцы на выкананьне дадатковых абавязкаў па ацэнцы і зьмякчэньні сыстэмных рызыкаў, зьвязаных з самім сэрвісам і ягонымі алгарытмамі.
Выснова простая. Наступны этап ШІ будзе вызначацца ня толькі тым, што мадэль умее, але і тым, хто дазваляе ёй дзейнічаць, да чаго яе дапускаюць і хто нясе адказнасьць, калі яна выходзіць за межы. Для карыстальнікаў, кампаніяў, школаў і лябараторыяў гэта азначае праверку перад купляй або ўкараненьнем ШІ: трэба пытацца ўжо не адно «наколькі ён разумны?», але і «што яму дазволена», «хто можа яго адключыць» і «хто адкажа за збой».
