Anthropic u problemima nakon intervencije Trumpove administracije

Ministarstvo trgovine u petak je uvelo kontrole izvoza najnovijih Anthropicovih modela, Fable i Mythos, zabranjujući stranim državljanima korištenje tehnologije i potičući tvrtku da obustavi oba sustava za sve korisnike.

Anthropicu je dano 90 minuta da se pridržava naredbe i nisu mu dostavljene detaljne zabrinutosti prije izdavanja naredbe, prema osobi bliskoj tvrtki.

Sigurnosni rizici

Tijekom vikenda tvrtka je poslala viši tehnički tim u Washington u nastojanju da obuzda posljedice.

Naredba je uslijedila nakon izvješća istraživača Amazona koji su identificirali potencijalni "jailbreak" u Fableu - način zaobilaženja zaštitnih ograda modela i izvlačenja informacija o sigurnosnim ranjivostima u softveru, prema osobi upoznatoj s tim pitanjem. Amazon je prvo podijelio svoja otkrića s Anthropicom.

Andy Jassy, glavni izvršni direktor Amazona, razgovarao je o problemu s američkim dužnosnicima u petak, prema riječima ljudi upoznatih s tim pitanjem. Jassy, čija je tvrtka uložila 13 milijardi dolara u Anthropic, navodno je izrazio širu zabrinutost oko mogućnosti graničnog modela, a ne pitanja usmjerena posebno na Anthropic.

Amazon je rekao: „Nije neuobičajeno da vlade traže naš savjet o potencijalnim sigurnosnim rizicima. Kada se dogode, ne dijelimo detalje tih rasprava.“

Model Fable testiran je i odobren za lansiranje nekoliko dana prije njegovog objavljivanja od strane agencija unutar istog odjela, rekli su ljudi bliski tom pitanju.

Anthropic osporava ciljanje administracije na svoje modele, tvrdeći da identificirana sposobnost nije jedinstvena i da se može demonstrirati u konkurentskim sustavima, uključujući one koje je razvio OpenAI.

Rješavanje ove vrste problema trajalo bi tjednima istraživanja i razvoja, bez jamstva da se neće pojaviti novi, prema riječima sigurnosnih stručnjaka. Osoba bliska Anthropicu rekla je da blisko surađuju s vladom kako bi pronašli zajednički jezik i dogovorili sljedeće korake.

Sukob se pojavljuje kao rani test kako Trumpova administracija namjerava nadzirati sve moćnije modele umjetne inteligencije. Rukovoditelji i istraživači kažu da korištenje kontrola izvoza za rješavanje problema sigurnosti modela riskira stvaranje neizvjesnosti oko implementacije granične umjetne inteligencije.

„Prilično je općeprihvaćena činjenica da se ne mogu u potpunosti popraviti jail breakovi u ovim modelima, to je vrlo neprecizna znanost“, rekla je Helen Toner, bivša članica odbora OpenAI-ja i privremena izvršna direktorica Centra za sigurnost i nove tehnologije na Sveučilištu Georgetown. „Vlada bi svakako trebala očekivati da su OpenAI i Googleovi modeli sposobni za slične stvari.“

Sukob s Pentagonom

Međutim, vladino zamrzavanje ne odnosi se na vodeće modele Anthropicovog konkurenta OpenAI-ja, unatoč onima koji su pokazali usporedive sposobnosti.

Intervencija je posebno upečatljiva jer je Dario Amodei iz Anthropica bio među najglasnijim liderima umjetne inteligencije koji upozoravaju na opasnosti koje predstavljaju sve sposobniji modeli.

Njihov najnoviji Mythos sustav pokazao je sposobnost prevladavanja nekih postojećih kibernetičkih obrana, a tvrtka je surađivala s vladinim dužnosnicima na kontroliranom uvođenju prije nego što ga je prošli tjedan pustila u širu upotrebu.

Narudžba dolazi nakon što su se visoki vladini dužnosnici javno sukobili s Anthropicevim stručnjacima. vodstvo nad pitanjima koja uključuju regulaciju umjetne inteligencije i korištenje Anthropicove tehnologije u domaćem nadzoru i smrtonosnom autonomnom oružju. Pentagon je Anthropic označio kao rizik za opskrbni lanac za nacionalnu sigurnost, a dvije strane su u sporu oko te oznake.

Trumpova administracija okarakterizirala je taj potez kao mjeru nacionalne sigurnosti koja nije povezana s tim sporovima. Američki dužnosnik rekao je za FT da bi krpanje jailbreaka moglo riješiti trenutni zastoj.

No, ministar obrane Pete Hegseth povezao je epizodu sa svojom kritikom Anthropica, napisavši u objavi na X da je njegov odjel prethodno izbacio tvrtku "iz naše zgrade - zauvijek", dodajući: "Svaki dan dokazuje zašto je to bio pravi potez."

Ipak, američki dužnosnici i rukovoditelji tvrtki rekli su da Pentagon i druge američke agencije još uvijek koriste najnaprednije Anthropicove modele.

Što kaže Europska komisija?

Europska komisija, koja je nedavno dobila pristup najnovijim Anthropicovim modelima, rekla je da procjenjuje implikacije direktive na svoje građane.

„Ovi modeli nude značajne prednosti, uključujući i za kibernetičku obranu, ali također izazivaju ozbiljne probleme u vezi s kibernetičkom sigurnošću kojima se treba pozabaviti“, rekla je Komisija.

„Ovo je zajednički izazov, a ne onaj ograničen na jednu jurisdikciju ili tvrtku. Vjerujemo da poduzete mjere za nepredviđene situacije u tom svjetlu ne bi trebale biti diskriminirajuće prema partnerima.“

„Ova poluga koju su odabrali, kontrola izvoza, vrlo je loše prilagođena onome što pokušavaju učiniti“, rekao je Toner. „Sprječava strane vlade da je koriste [i] sada je vrijeme da je saveznici koriste za kibernetičku obranu.“

Bijela kuća je prethodno signalizirala manje intervencionistički pristup raspoređivanju graničnih modela. Izvršna naredba potpisana ranije ovog mjeseca nije uključivala mehanizam kojim bi američka vlada mogla zaustaviti objavljivanje modela.

Vodeće tvrtke za umjetnu inteligenciju surađivale su s vladom na provedbi izvršne naredbe, rekla je osoba bliska OpenAI-ju.