Пентагонът иска „убийствен“ ИИ без предпазни механизми – Reuters

Министерството на войната на САЩ е въвлечено в спор с разработчика на изкуствен интелект Anthropic относно ограниченията, които биха лимитирали начина, по който военните могат да използват ИИ системи, включително за автономно насочване на оръжия и за вътрешно наблюдение.

Разногласията са блокирали договор на стойност до 200 милиона долара, тъй като военните представители се противопоставят на това, което според тях са прекомерни ограничения, наложени от базираната в Сан Франциско компания върху използването на нейната технология, съобщава Reuters, позовавайки се на шестима души, запознати със случая.

Anthropic е изразила опасения, че нейните ИИ инструменти могат да бъдат използвани за провеждане на смъртоносни операции без достатъчен човешки контрол или за наблюдение на американски граждани, посочват източници на Reuters.

От своя страна представители на Пентагона твърдят, че комерсиалните ИИ системи трябва да могат да се използват за военни цели независимо от вътрешните политики на дадена компания, стига да отговарят на американското законодателство.

Спорът се разгръща на фона на по-широките усилия на администрацията на Тръмп за бърза интеграция на изкуствения интелект във въоръжените сили. По-рано този месец Министерството на войната представи нова стратегия, насочена към превръщането на американската армия в „ИИ-ориентирана“ бойна сила.

Пентагонът смята, че трябва да запази пълен контрол върху начина, по който ИИ инструментите се използват на бойното поле и в разузнавателните операции, като министърът на отбраната на САЩ Пийт Хегсет се зарече да не използва модели, които „не позволяват да се водят войни“.

Говорител на Anthropic заяви, че ИИ на компанията „се използва широко за мисии, свързани с националната сигурност, от правителството на САЩ“ и че тя остава в „конструктивни разговори с Министерството на войната относно начините тази работа да продължи“. Пентагонът все още не е коментирал съобщения разрив.

Главният изпълнителен директор на Anthropic Дарио Амодей нееднократно е предупреждавал за опасностите от неконтролираното използване на ИИ, особено в масовото наблюдение и напълно автономните оръжейни системи. В скорошно есе той аргументира, че ИИ трябва да подкрепя националната отбрана „по всички начини, с изключение на онези, които биха ни направили по-близки до нашите автократични противници“.

Застоят крие рискове за Anthropic, която е инвестирала значителни средства в привличането на правителствени и клиенти от сферата на националната сигурност и се подготвя за потенциално първично публично предлагане. Компанията беше сред няколкото големи разработчици на ИИ, получили договори от Пентагона миналата година, редом с OpenAI, Google и xAI на Илон Мъск.

Пламен Валентинов