Пентагонът срещу Anthropic

Сблъсък за етиката на изкуствения интелект

Съединените щати и технологичната компания Anthropic влизат в открит конфликт за начина, по който армията може да използва изкуствен интелект. Според публикации, Министерството на отбраната на САЩ е отправило твърди искания към компанията през последните седмици. 

Пентагонът е настоял Anthropic да премахне ограниченията в кодовете на своя AI модел Claude. Военните искат AI да може да се използва за всички законни военни цели — включително анализ, наблюдение и потенциално автономни оръжия без ограничения. Заплахите включват прекратяване на текущ договор на стойност до 200 млн. долара и класифициране на компанията като „рискова за веригата на доставки“. 

Anthropic отказа да удовлетвори исканията. Компанията заяви, че няма да премахне забраните за масово вътрешно наблюдение или за автономни оръжия без човешки контрол. Изпълнителният директор Дарио Амодей определи тези ограничения като „червени линии“, които стоят в основата на безопасния подход към AI. 

Пентагонът твърди, че иска „всяко законно използване“ на технологията, а не конкретно автономни оръжия. Военният ръководител по ИИ обаче подчерта, че ограниченията могат да затруднят реализацията на критични операции. 

На 27 февруари Пентагонът официално обяви Anthropic за „рискова за веригата на доставки“. Президентът Доналд Тръмп нареди всички федерални агенции да спрат използването на AI инструменти на компанията. 

В отговор Anthropic заяви, че ще оспори решението в съда. Компанията твърди, че действията на Пентагона надхвърлят законовите правомощия и са безпрецедентни спрямо американски технологичен разработчик. 

Междувременно OpenAI постигна споразумение с Пентагона за внедряване на свои AI модели в класифицирани системи. OpenAI заяви, че новият договор съдържа принципи за безопасност — забрана за масово наблюдение и човешки контрол на сила. 

Спорът разкрива динамиката между националната сигурност и етичните принципи при използването на AI. И двете страни твърдят, че действат в интерес на безопасността, но подходите им са различни. Anthropic се съсредоточава върху етичните ограничения, а Пентагонът — върху оперативната гъвкавост.

Този случай повдига въпроси за бъдещето на AI във военните операции. Дали частни компании могат да диктуват условията на използване на своите технологии? И какви права имат гражданите по отношение на масовото наблюдение?

Още новини в категория Технологии