Sekretarz handlu USA Howard Lutnick powiedział, że podjął działania przeciwko najnowszym modelom sztucznej inteligencji Mythos i Fable firmy Anthropic, ponieważ urzędnicy obawiali się, że mogą one zostać wdrożone przez użytkowników wywiadu wojskowego w Chinach, Rosji i innych budzących obawy krajach.
Lutnick zwrócił uwagę na ryzyko w piśmie wysłanym w piątek do dyrektora generalnego Anthropic Dario Amodei, w którym nakazał firmie zawieszenie eksportu modeli sztucznej inteligencji do miejsc na całym świecie i do wszystkich obcokrajowców, niezależnie od tego, gdzie się znajdują, zgodnie z kopią listu, do której Reuters dotarł w poniedziałek.
Starszy personel techniczny Anthropic spotkał się w poniedziałek z urzędnikami Departamentu Handlu w Waszyngtonie, aby wynegocjować rozwiązanie, powiedział urzędnik administracji Trumpa.
Stawka jest wysoka – rząd stara się zapewnić, że modele te nie mogą zostać wykorzystane do wyrządzenia szkody Stanom Zjednoczonym, natomiast Anthropic naciska na przywrócenie dostępu do swoich najlepszych modeli po wyłączeniu ich w piątek wszystkim użytkownikom.
Lutnick brał udział w tym procesie i regularnie rozmawiał z urzędnikami Anthropic w trakcie prac nad zawarciem porozumienia, podało źródło zaznajomione z sytuacją.
Amodei i Lutnick mają wziąć udział w spotkaniach G7 w Evian-les-Bains we Francji, gdzie będą mogli zabierać głos w miarę kontynuowania negocjacji.
Krajowy dyrektor ds. cyberbezpieczeństwa Sean Cairncross dołączył do poniedziałkowego spotkania na poziomie roboczym z firmą Anthropic w Departamencie Handlu, dodało źródło.
Personel techniczny firmy spotyka się z urzędnikami praktycznie codziennie, odkąd administracja Trumpa skontaktowała się z firmą w piątek, powiedziała Reuterowi osoba bliska firmie.
Po piśmie Lutnicka firma Anthropic oświadczyła, że uniemożliwi dostęp do modeli na całym świecie.
Rząd powiedział firmie, że według niego istnieje metoda obejścia, czyli „łamania więzienia”, zabezpieczenia, które uniemożliwiałoby wykorzystanie Fable 5 do identyfikowania luk w oprogramowaniu, Anthropic poinformowała w piątek w poście na blogu.
Obejście wykryło jedynie „drobne” luki w zabezpieczeniach, które mogą znaleźć również inne publicznie dostępne modele – dodała firma.
Stosunki między administracją Trumpa a Anthropic zerwały się na początku tego roku po tym, jak Anthropic odmówił amerykańskiej armii wykorzystania swoich modeli sztucznej inteligencji do nadzoru krajowego i w pełni autonomicznych systemów uzbrojenia, a rząd w odwecie umieścił tę firmę na czarnej liście bezpieczeństwa narodowego.
Startup AI z siedzibą w San Francisco, który poufnie złożył wniosek o pierwszą ofertę publiczną w USA, ostrzegał wcześniej przed możliwościami hakerskimi swojego modelu Mythos i wstrzymywał się od jego szerokiego udostępnienia.
9 czerwca firma Anthropic udostępniła publiczną wersję o nazwie Fable 5, która zawierała tak zwane zabezpieczenia cyberbezpieczeństwa.
Anthropic współpracowała z rządem nad testowaniem Fable 5 przed jego wypuszczeniem na rynek – powiedziała osoba bliska firmie i uzyskała zgodę na jego wdrożenie.
Moce użyte po raz pierwszy do powstrzymania Anthropica
W piśmie do Anthropic stwierdzono, że Departament Handlu podejmuje działania za pośrednictwem organów przyznanych na mocy ustawy o reformie kontroli eksportu z 2018 r. w celu nałożenia kontroli na nowe technologie niezbędne dla bezpieczeństwa narodowego USA.
Według eksperta ds. kontroli eksportu jest to pierwszy raz, kiedy Departament Handlu skorzystał z tej władzy.
W piśmie napisano, że Departament Handlu będzie wymagał pozwolenia na eksport (lub transfer do cudzoziemca w USA) i zagrożono, że niezastosowanie się do nowego ograniczenia będzie skutkować „niezwłocznymi karami karnymi i cywilnymi”.
Eksperci ds. kontroli eksportu stwierdzili jednak, że modele sztucznej inteligencji zasadniczo nie są eksportowane. Są one wdrażane poprzez dostęp zdalny, którego nie kontrolują przepisy dotyczące kontroli eksportu, co rodzi pytania, czy Commerce ma uprawnienia prawne do podjęcia takich działań.
Departament Handlu nie udzielił odpowiedzi na pytania dotyczące przedmiotowych organów. Ani departament, ani Anthropic nie odpowiedziały na prośby o komentarz podczas poniedziałkowego spotkania.
W niedzielę ponad 80 dyrektorów i ekspertów ds. cyberbezpieczeństwa podpisało list otwarty do Lutnicka i krajowego dyrektora ds. cyberbezpieczeństwa Seana Cairncrossa, w którym poparł stanowisko Anthropic.
W piśmie tym liderzy cyberbezpieczeństwa w największych firmach, w tym Nvidia i Adobe, zwrócili się do administracji Trumpa o zniesienie ograniczeń nałożonych na firmę Anthropic.