Prezydent USA Donald Trump powiedział w piątek, że poleca rządowi zaprzestanie współpracy z Anthropic, a Pentagon oświadczył, że uzna ten start-up za ryzyko dla łańcucha dostaw, zadając poważny cios laboratorium sztucznej inteligencji po rozgrywce na temat barier technologicznych.
Trump dodał, że Departament Obrony i inne agencje korzystające z produktów firmy będą miały sześciomiesięczny okres wycofywania. Trump powiedział, że jeśli Anthropic nie pomoże w przejściu, użyje „pełnej władzy prezydenta, aby zmusić ich do podporządkowania się, co pociągnie za sobą poważne konsekwencje cywilne i karne”.
Działania te stanowią niezwykłą naganę ze strony Stanów Zjednoczonych skierowaną pod adresem jednej z wiodących firm, która utrzymywała ją na pozycji lidera w dziedzinie sztucznej inteligencji o krytycznym znaczeniu dla bezpieczeństwa narodowego, grożąc nadanie firmie Anthropic statusu pariasa, który Waszyngton do tej pory rezerwował dla wrogich dostawców. Google i Amazon należą do sponsorów finansowych Anthropic.
Posunięcia te stanowią ponadto precedens, zgodnie z którym samo prawo amerykańskie ograniczałoby sposób wykorzystania sztucznej inteligencji na polu bitwy, przy czym Pentagon stara się zachować wszelką elastyczność w obronie i nie ograniczać się ostrzeżeniami twórców technologii przed zasilaniem broni za pomocą zawodnej sztucznej inteligencji.
W oświadczeniu Anthropic oświadczyło, że zakwestionuje w sądzie wszelkie oceny ryzyka przez Departament Obrony, który administracja Trumpa zmienił nazwę na Departament Wojny.
„Uważamy, że takie oznaczenie byłoby nieuzasadnione z prawnego punktu widzenia i stworzyłoby niebezpieczny precedens dla każdej amerykańskiej firmy negocjującej z rządem” – stwierdziła firma.
„Żadna ilość zastraszania ani kar ze strony Departamentu Wojny nie zmieni naszego stanowiska w sprawie masowej inwigilacji krajowej lub w pełni autonomicznej broni”.
Pod koniec piątku rywal OpenAI, wspierany przez Microsoft, Amazon i inne firmy, ogłosił własną umowę na wdrożenie technologii w tajnej sieci Departamentu Obrony.
Dyrektor generalny Sam Altman w programie X powiedział, że Pentagon podziela swoje zasady dotyczące ludzkiej odpowiedzialności za systemy uzbrojenia i zakazu masowej inwigilacji ze strony USA.
„Umieściliśmy je w naszej umowie” – powiedział Altman o tych punktach. „Będziemy także budować zabezpieczenia techniczne, aby zapewnić, że nasze modele zachowują się tak, jak powinny, czego również chciał DoW”.
Nie było od razu jasne, czy te szczegóły umowy różnią się od czerwonych linii zaproponowanych przez Anthropic. Pentagon i OpenAI nie odpowiedziały natychmiast na prośbę o komentarz.
„Wojna nuklearna”
Sekretarz obrony Pete Hegseth powiedział, że Anthropic zostanie uznany za stwarzający ryzyko w łańcuchu dostaw po miesiącach impasu w rozmowach na temat tego, czy polityka firmy może ograniczyć działania wojskowe.
Spotkawszy się w tym tygodniu z Hegsethem, dyrektor generalny Anthropic, Dario Amodei, opowiedział się za bronią i ograniczeniami inwigilacji, co zirytowało urzędników Pentagonu. Pentagon powiedział, że sposób obrony kraju określi prawo amerykańskie, a nie prywatna firma.
Ta nominacja może uniemożliwić dziesiątkom tysięcy wykonawców korzystanie ze sztucznej inteligencji Anthropic podczas pracy dla Pentagonu. Stanowi to egzystencjalne zagrożenie dla jej interesów z rządem i może zaszkodzić stosunkom z sektorem prywatnym, powiedział Franklin Turner, prawnik specjalizujący się w kontraktach rządowych.
„Wpisanie Anthropic na czarną listę jest umownym odpowiednikiem wojny nuklearnej” – powiedział.
Podobne działania USA podjęły w celu usunięcia chińskiego giganta technologicznego Huawei z łańcuchów dostaw Pentagonu. Począwszy od 2017 r. Stany Zjednoczone ograniczyły Departament Obrony korzystanie ze sprzętu Huawei, zabroniły agencjom federalnym zakupu jego technologii oraz wstrzymały federalne dotacje i pożyczki na sprzęt Huawei.
Firma Anthropic ścigała się, aby wygrać zaciekłą konkurencję w zakresie sprzedaży nowatorskich technologii przedsiębiorstwom i rządom, szczególnie na potrzeby bezpieczeństwa narodowego, przed szeroko oczekiwaną pierwszą ofertą publiczną. Spółka oświadczyła, że nie podjęła jeszcze decyzji o IPO.
Saif Khan, który zasiadał w Radzie Bezpieczeństwa Narodowego w Białym Domu byłego prezydenta Joe Bidena, powiedział, że działanie Departamentu Obrony „może być najbardziej drakońskim rozporządzeniem dotyczącym sztucznej inteligencji, jakie kiedykolwiek wydał jakikolwiek rząd”. „Departament prawdopodobnie traktuje firmę Anthropic jako większe zagrożenie dla bezpieczeństwa narodowego niż jakiekolwiek chińskie firmy zajmujące się sztuczną inteligencją, z których żadna nie określiła jako ryzyko dla łańcucha dostaw” – powiedział Khan.
„Zabójcze roboty”
Firmy technologiczne i Pentagon wielokrotnie kłóciły się co najmniej od 2018 r., kiedy pracownicy Google protestowali przeciwko wykorzystywaniu przez Pentagon sztucznej inteligencji do analizowania nagrań z dronów. Nastąpiło zbliżenie, w którym takie firmy, jak Amazon i Microsoft rywalizowały o biznes obronny, a kilku dyrektorów generalnych dużych firm zadeklarowało w zeszłym roku współpracę z administracją Trumpa.
Jednak teoretyczne „zabójcze roboty” zaniepokoiły działaczy na rzecz praw człowieka i technologii, ponieważ wojny na Ukrainie i w Gazie pokazały coraz bardziej zautomatyzowane systemy.
Odważniejsze działania wojskowe USA w zeszłym roku zwiększyły te obawy, powiedział Jack Shanahan, który kierował projektem Maven w zakresie wojny algorytmicznej Pentagonu.
„Ludzie mogą być nieco bardziej zdenerwowani brakiem ograniczeń” – powiedziała Shanahan. Zgoda prawna Białego Domu mogłaby stanowić „przykrywkę dla każdego, kto zrobi cokolwiek, co potencjalnie mogłoby skutkować brakiem należytego procesu, ofiarami wśród ludności cywilnej i szkodami ubocznymi”.
W ubiegłym roku Pentagon podpisał umowy o wartości do 200 milionów dolarów każda z głównymi laboratoriami zajmującymi się sztuczną inteligencją, w tym Anthropic, OpenAI i Google.
Anthropic, negocjując w sprawie nagród poniżej tego pułapu, wyraziła obawy co do zdolności systemu prawnego do nadążania za postępem sztucznej inteligencji. Na przykład obecnie prawo amerykańskie nie zabrania stosowania technologii do kompilowania pozornie nieszkodliwych danych w celu ujawnienia informacji o życiu prywatnym ludzi, powiedział dyrektor generalny Amodei.
Sztuczna inteligencja Anthropic jest stosowana w społecznościach wywiadowczych i służbach zbrojnych i jako pierwsza spośród podobnych firm zajmujących się sztuczną inteligencją pracowała z informacjami niejawnymi w ramach umowy na dostawy za pośrednictwem dostawcy usług w chmurze Amazon.
