За апошні тыдзень галоўная навіна ў ШІ прыйшла не з бэнчмаркаў. Кіраўнікі вядучых лябараторыяў пачалі публічна абмяркоўваць тое, што яшчэ нядаўна выглядала амаль немагчымым: сьвядома запаволіць рост магчымасьцяў, калі меры бясьпекі не пасьпяваюць.
Дарыё Амадэі з Anthropic 12 верасьня прапанаваў тры крокі: пастаянны доступ незалежных ацэншчыкаў у лябараторыі, агульныя стандарты паміж кампаніямі і міжнародную каардынацыю. Гэта пакуль не пагадненьне і не мараторый. Anthropic заявіла, што сама возьме на сябе першы крок і дасьць зьнешнім ацэншчыкам працяглы доступ да працы кампаніі.
OpenAI рухаецца ў тым жа кірунку іншай дарогай. 9 верасьня кампанія заклікала Кангрэс да абавязковых нацыянальных патрабаваньняў бясьпекі, прывязаных да магчымасьцяў мадэляў, і падтрымала галіновыя стандарты. Сэм Альтман пазьней сказаў Fortune, што размовы пра сумесны плян паміж вядучымі лябараторыямі сапраўды ідуць. Фармальнага пакту пакуль няма.
Вось дзе пачынаецца галоўная супярэчнасьць. Каб некалькі канкурэнтаў разам зьменшылі тэмп распрацоўкі, ім патрэбныя ня толькі тэхнічныя крытэры, але і прававая рамка. WIRED паведамляе, што OpenAI прасіла ў Кангрэсу ясных указаньняў, ці будзе законнай каардынацыя агульнага запаволеньня. Тое, што можа быць разумным для бясьпекі, у звычайным рынку можа сутыкнуцца з антыманапольнымі абмежаваньнямі.
Чаму размова стала такой вострай менавіта цяпер? Anthropic 10 верасьня апублікавала новую справаздачу пра шкоднае выкарыстаньне Claude, у тым ліку для кібэрапэрацыяў, назіраньня і задач, зьвязаных з вайсковай сфэрай. Гэта ня доказ таго, што катастрофа непазьбежная. Гэта паказвае больш вузкую рэч: магутныя мадэлі ўжо сталі інструмэнтамі, якія даводзіцца актыўна абараняць ад злоўжываньняў.
Для карыстальніка практычны сэнс просты. Наступная гонка можа вымярацца ня толькі тым, чыя мадэль разумнейшая, але і тым, хто мае права яе тэставаць, калі выпуск можна адкласьці і якія парогі рызыкі стануць абавязковымі. Пакуль гэта пералом у рыторыцы, а не гатовы рэжым. Палітычнага кансэнсусу таксама няма: 14 верасьня Дональд Трамп адхіліў новыя заклікі да жорсткіх абмежаваньняў бясьпекі, спасылаючыся на канкурэнцыю з Кітаем.
Такім чынам, сапраўдны зрух тыдня ў тым, што пытаньне «ці трэба запавольвацца?» перастала быць маргінальным. Цяпер яго задаюць самі кампаніі, якія больш за ўсіх зарабляюць на хуткасьці. Наступная праверка будзе не ў словах, а ў тым, ці зьявяцца правілы, незалежны кантроль і рэальныя межы, калі новы выпуск стане небясьпечнейшым за затрымку.
