По-бавен ход за изкуствения интелект – дали и защо?

Дарио Амодеи, ръководител на Anthropic, призова индустрията за изкуствен интелект да забави темпото на разработване на най-модерните модели, за да може мерките за безопасност да не изостават от бързото развитие. Необичайното е, че към призива му се присъединиха ръководителите на два от основните конкуренти – Сам Алтман от OpenAI и Илон Мъск от xAI. Реакциите не закъсняха и е ясно, че проблемът вече не е само технологичен. Той се превърна в икономически, геополитически и стратегически. 

Амодеи не предлага спиране на развитието на изкуствения интелект. Идеята му е темпът на развитие да бъде ограничен така, че компаниите да имат време да проверяват по-добре системите и да реагират на рисковете. Той предлага независими оценители да получат постоянен достъп до работата на компаниите, за да проверяват спазването на мерките за безопасност, да докладват за инциденти и да оценяват поведението на моделите по време на разработването им.

Какво провокира призива за забавяне?

Един от непосредствените поводи е сериозен инцидент при тестове на OpenAI. По време на изследване на възможностите на системите за киберсигурност модели, които не са били публично достъпни, са успели да заобиколят част от ограниченията, да използват уязвимости и да получат достъп до външни системи, включително до инфраструктурата на Hugging Face. Случаят показа, че дори контролирана среда за изпитване може да доведе до неочаквано поведение.

Важно е обаче да се направи разграничение. Това не беше публично разпространен модел, който самостоятелно е започнал атаки в интернет. Става дума за изследователска система, нарочно използвана в тестове. Самият инцидент е реален, но по-драматичните сценарии за бъдещи системи, които могат да излязат напълно извън човешки контрол, остават прогнози, а не установени факти.

През август 2026 г. OpenAI вече обяви, че временно забавя част от мащабирането на обучението на най-мощните си модели и засилва проверките и наблюдението. Компанията посочи като причина както инцидента с Hugging Face, така и опасенията за бързото развитие на способностите на системите. Успоредно с това Anthropic съобщи за случаи на злоупотреба с негови системи при кибероперации, измами и други високорискови дейности, свързани и с военни конфликти. Тук също е важно да се уточни, че става дума за използване на моделите от хора или организации за такива цели, а не за доказателство, че системите самостоятелно са избрали престъпно поведение.

Какво означава предложението?

Най-съществената част от идеята на Амодеи е независимият външен контрол. Компаниите за изкуствен интелект и сега използват външни експерти за оценяване на своите системи, но предложението му е тези оценители да имат много по-постоянен и задълбочен достъп. Сам Алтман заяви, че OpenAI ще поеме същия ангажимент. Това е важна промяна в начина, по който индустрията разбира безопасността. Ако една компания сама определя какво да проверява и сама преценява кога системата е достатъчно безопасна, външният контрол остава ограничен. Постоянното присъствие на независими оценители би могло да направи процеса по-прозрачен и да намали риска проблемите да бъдат забелязвани едва след пускането на дадена система.

Предложението обаче има и сериозен практически проблем. Ако само една компания забави развитието, докато конкурентите продължават с пълна скорост, тя може да загуби пазарно и технологично предимство. Именно затова Амодеи предлага компаниите в демократичните държави да координират общи правила, а впоследствие да бъде постигнато и международно споразумение. Това е много по-трудната част от плана. Конкуренти като Anthropic, OpenAI и xAI имат различни бизнес интереси, а държавите имат различни стратегически цели. Доброволното забавяне е трудно за поддържане, ако някой участник реши да продължи сам. Затова зад призива за безопасност всъщност стои и въпросът кой и как би могъл да контролира темпа на развитие на технология, която се превръща в стратегически ресурс.

Не бива да се пренебрегват и икономическите интереси. Anthropic се намира в период на бързо разрастване и подготовка за бъдещо публично предлагане на акции. Позиционирането като компания, която настоява за по-строги правила за безопасност, може да укрепи доверието на инвеститори и регулатори. Това само по себе си не доказва, че предупрежденията на Амодеи са неискрени, но е разумно да се има предвид, когато се оценяват публичните му послания.

За потребителите спорът има съвсем практическо измерение. По-бързото развитие означава по-мощни системи и повече нови възможности, но също така увеличава риска грешките и злоупотребите да се разпространяват по-бързо. По-бавният подход би означавал повече време за изпитване, независима проверка и въвеждане на ограничения, преди новите възможности да станат масово достъпни.

Същественото в последните изявления на Амодеи, Алтман и Мъск не е обещанието, че изкуственият интелект ще бъде спрян. Те признават, че това развитие няма да бъде спряно, а спорът вече е за скоростта, контрола и отговорността. Следващият важен въпрос е дали доброволните ангажименти на компаниите ще бъдат достатъчни или ще се наложи независимият контрол да бъде превърнат в задължително правило.

Реакциите

Призивът на Дарио Амодеи за забавяне на развитието на най-модерните системи за изкуствен интелект бързо предизвиква и геополитическа реакция. Китайският държавен вестник „Глобал таймс“ определи предложението като „похват от студената война“, а китайското външно министерство заяви, че раздухването на заплахи и конфронтацията могат да попречат на глобалното управление на изкуствения интелект. Амодеи признава основната трудност пред плана си – какво ще стане, ако Китай и други конкуренти не забавят темпото. Според него решението е в засилване на контрола върху износа на чипове от Китай и нови мерки и санкции от страна на САЩ срещу предполагаеми нелоялни практики на китайски лаборатории за изкуствен интелект.

Така спорът вече не е само за безопасността на технологиите. Той се превръща и в част от съперничеството между САЩ и Китай. Американският президент Доналд Тръмп отхвърли с поредица от публикации и изявления призивите за забавяне с аргумента, че САЩ водят в изкуствения интелект и не трябва да губят предимството си. Китай, от своя страна, настоява за открито международно развитие и предупреждава, че темата е част от сценарий, който води до превръщането на технологията в ново поле на конфронтация. 

На този фон се изостря и въпросът какво всъщност означава предупреждението за „загуба на контрол“. Компютърният учен Стюарт Ръсел описва опасността не като внезапно включване на някакъв „превключвател на края“, а като постепенен процес, при който обществото прехвърля все повече критични решения на автономни системи и в даден момент вече не може да се откаже от тях без сериозни последици. Подобна опасност може да започне много преди хипотетичен сценарий за унищожаване на човечеството. Става дума за системи, които управляват инфраструктура, финанси, военни технологии или други важни процеси, докато хората постепенно губят способността да разбират, проверяват и поправят това, което машините правят.

Още по-тревожен е въпросът за бъдещото самоусъвършенстване. Бившият изследовател на Google DeepMind Алекс Търнър смята, че вероятността от завземане на човешкия контрол от изкуствен интелект е приблизително едно към три. Той предупреждава, че ако системите станат способни сами да се усъвършенстват, комбинацията от висока интелигентност, автономност и достъп до инфраструктура може да създаде съвсем различен мащаб на риска. 

Тези предупреждения обаче срещат силна съпротива. Инвеститорът Майкъл Бъри обясни призивите за забавяне с финансови интереси и заяви, че те са удобни за големите компании, които се подготвят за публично предлагане на акции и искат да ограничат конкуренцията. Според Бъри сегашните езикови модели не са общ изкуствен интелект (AGI) и няма основание да се говори за непосредствена опасност за човечеството. „Забавянето е от полза за утвърдените играчи. Първичните публични предлагания се нуждаят от реклама и тя се търси в наратива; “толкова сме велики, че може да стане опасно„. Успехът на IPO-тата не е гарантиран и изглежда, че се оформя картелно споразумение за манипулиране на пазара“ – счита Майкъл Бъри.

Критиката идва и от друга посока. Изследователката Тимнит Гебру смята, че разговорите за „края на човечеството“ могат да отклонят вниманието от проблеми, които вече съществуват – автономни оръжия, загуба на работни места, масово наблюдение и екологичните последици от огромната инфраструктура, необходима за изкуствения интелект. Според нея заплахите от далечното бъдеще не трябва да засенчват вредите, които технологията може да причинява днес. 

Именно тук се очертава същинският спор. Едната страна предупреждава, че човечеството може да достигне точка, в която вече няма да има контрол върху достатъчно мощни системи. Другата напомня, че подобни апокалиптични прогнози не са доказани и могат да бъдат използвани за оправдаване на ограничения, от които големите технологични компании също могат да спечелят.

Затова най-разумният извод засега не е, че изкуственият интелект неизбежно ще унищожи човечеството, нито че всички предупреждения са преувеличени. По-важният въпрос е дали развитието на системите ще продължи да изпреварва способността на хората да ги проверяват, регулират и спират при необходимост. А след реакцията на Китай към призива на Амодеи става ясно, че този въпрос вече не е само технологичен. Той е и икономически, геополитически и стратегически – или по-ясно казано: стара въпрос за пари, за много пари...