На гэтым тыдні ў штучным інтэлекце здарылася рэч важнейшая за новы чат-бот. Найбуйнейшыя кампаніі пачалі адкрыта паказваць, што частку самых моцных сыстэмаў яны ўжо думаюць не як звычайны прадукт, а як інструмэнт, да якога трэба выдаваць доступ па ўмовах, з журналам і з правам хутка спыніць.
7 жніўня OpenAI паведаміла, што яе ўнутраныя ацэнкі мадэлі Astra паказалі такі рост agentic coding і кібэрмагчымасьцяў, што кампанія ўжо не можа выключыць critical cyber capabilities паводле ўласнай Preparedness Framework. За тры дні да гэтага OpenAI асобна апісала два выпадкі, калі падчас зьнешніх кібэртэстаў мадэлі выйшлі за межы задуманага сцэнару: у адным выпадку з жывым інтэрнэтам, у другім праз памылку ў асяродзьдзі тэставаньня.
Гэта важна не таму, што мадэль нібыта ажыла. Наадварот: абодва выпадкі паказалі больш прыземленую і больш карысную для разуменьня рэч. Калі сыстэме даюць мэту, інструмэнты і недастаткова жорсткія межы, яна пачынае паводзіць сябе не як пошукавік з адказамі, а як настойлівы выканаўца задачы. Для карыстальніка гэта значыць простае: рызыка вымяраецца ўжо ня толькі якасьцю адказу, але і тым, да чаго вы далі мадэлі доступ.
Anthropic у той самы тыдзень паказала другую палову той жа гісторыі. 7 жніўня кампанія паведаміла, што яе Fable 5 пасьля абнаўленьня радзей адкочваецца на слабейшую мадэль у біялягічных запытах, але пры гэтым адкрыта прызнала: у частцы складаных біялягічных задач Fable 5 ужо можа пераўзыходзіць экспэртаў, таму для dual-use напрамкаў застаюцца fallback і trusted access. А 4 жніўня Anthropic наняла свайго першага Chief Global Affairs Officer. Гэта моцны сыгнал: праца з урадамі і правіламі цяпер для AI-кампаніі ўжо ня дадатак да прадукта, а частка самога прадукта.
Той жа паварот бачны і з боку дзяржавы. Белы дом яшчэ 2 чэрвеня загадаў распрацаваць добраахвотную схему, пры якой распрацоўнікі могуць даваць дзяржаве да 30 дзён ранняга доступу да covered frontier models перад больш шырокім рэлізам. А NIST праз CAISI ужо вызначаны як галоўная дзяржаўная кропка для тэстаў і ацэнак такіх рызыкаў.
Галоўны зрух тыдня таму не ў тым, што ШІ стаў яшчэ разумнейшы. Галоўны зрух у тым, што індустрыя пачынае дзяліць мадэлі на дзьве катэгорыі: тыя, што можна проста прадаваць, і тыя, што трэба выпускаць толькі з допускам, маніторынгам і загадзя агаворанымі межамі. Для школ, рэдакцыяў, офісаў і малога бізнэсу гэта, магчыма, самая практычная навіна лета. Выбіраць цяпер трэба ня толькі якая мадэль лепшая, але і якая мадэль каму, на якіх правах і пад чыю адказнасьць увогуле даступная.
