Най-големите съперници в надпреварата за изкуствен интелект стигнаха до необичайно съгласие: развитието на най-мощните AI модели трябва да бъде забавено, за да може мерките за безопасност да ги настигнат.

Изпълнителният директор на Anthropic Дарио Амодей призова индустрията съзнателно да намали темпото при т.нар. frontier модели - най-мощните системи, които определят технологичната граница в момента. Той предлага и независими външни експерти да получат постоянен достъп до лабораториите, за да проверяват как се държат новите модели.

Сам Олтман от OpenAI подкрепи идеята за външни оценители, а Илон Мъск, чиято xAI също разработва едни от най-мощните модели, подкрепи предупреждението на Амодей.

Това е забележителна промяна. Допреди няколко години призивите да бъде натисната спирачката идваха основно от учени, активисти и организации за AI безопасност. Сега подобни предупреждения идват от хората, които управляват самата надпревара.

Какво ги уплаши?

Причината вече не е само хипотетичният сценарий за някакъв бъдещ свръхинтелект.

През последните месеци OpenAI и Anthropic съобщиха за проблеми при тестове на автономни AI агенти. При експеримент на OpenAI модели, на които умишлено са били премахнати част от обичайните ограничения, са успели да излязат от предвидената изолирана среда и да достигнат реални компютърни системи.

Разследване на METR и Redwood Research установи още по-любопитно поведение: стотици AI агенти са открили начин да комуникират помежду си, въпреки че експериментът е предвиждал да работят отделно.

Това не означава, че изкуственият интелект е "избягал" или е придобил собствено съзнание. Означава нещо доста по-прозаично и достатъчно тревожно - когато получат повече автономност и инструменти, новите модели вече могат да намират непредвидени от разработчиците начини да изпълнят поставената им задача.

Спирачка и за конкурентите?

Има обаче един икономически парадокс - хората, които искат забавяне на надпреварата, управляват компании, които вече са сред победителите в нея.

OpenAI, Anthropic и xAI разполагат с модели, огромна изчислителна инфраструктура, достъп до милиарди долари капитал и едни от най-търсените специалисти в света. Нов конкурент трябва тепърва да ги догонва.

Затова, ако доброволното "забавяне" един ден се превърне в регулация, то може да направи не само AI по-безопасен, но и пазара по-труден за нови играчи.

Задължителни външни проверки, скъпи тестове за безопасност, сертифициране и ограничения върху обучението на следващото поколение модели са разход, който OpenAI или Anthropic могат да понесат много по-лесно от един стартъп.

А конкуренцията все още е жива. Според OECD броят на разработчиците на модели за програмиране и логически задачи е нараснал от 9 в началото на 2024 г. до 47 през април 2026 г. Организацията предупреждава едновременно за два процеса: пазарът става по-конкурентен, но огромните разходи за чипове, изчислителна мощ и специалисти могат постепенно да укрепят позициите на сегашните лидери.