Testni model OpenAI-ja oteo se kontroli i djeluje kao haker

Sve veće sposobnosti umjetne inteligencije drastično mijenjaju i razinu prijetnji u kibernetičkom prostoru, upozorava Ministarstvo za digitalizaciju.

Njemačka je vlada izrazila zabrinutost zbog modela umjetne inteligencije američke kompanije OpenAI koji je izmaknuo kontroli.

„Ovaj je incident još jedan primjer da svjedočimo promjeni paradigme kada je riječ o sposobnostima AI agenata", rekao je jedan glasnogovornik Ministarstva za digitalizaciju.

Rizici rastu

Kako je naveo, posljednjih se mjeseci primjećuje da sposobnosti takozvanih frontier AI modela – najnaprednijih modela umjetne inteligencije – naglo rastu, a s njima i rizici.

„To bi moglo iz temelja promijeniti i razinu prijetnji u kibernetičkom prostoru", dodao je glasnogovornik.

Prema njegovim riječima, potrebno je osigurati da europske kompanije i sigurnosne institucije imaju pristup naprednim AI modelima. U prošlosti, kako je rekao, to nije uvijek bio slučaj. Zato njemačka vlada polaže velike nade u to da će europski akteri postati značajniji i u ovom području.

Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startup Hugging Face. Kompanija je u objavi na svom blogu priznala da je autonomni model umjetne inteligencije tijekom internih testiranja izmaknuo kontroli.

Softverska kompanija, na čijem je čelu Sam Altman, govorila je o „nezabilježenom kibernetičkom incidentu" i najavila dodatno jačanje sigurnosnih mjera.

Glasnogovornik njemačkog Saveznog ureda za sigurnost informacijskih tehnologija (BSI) rekao je da činjenica da je AI pobjegla iz „sigurnog" okruženja za testiranje (sandbox) i potom se samostalno kretala internetom, predstavlja ozbiljan incident.

Prema njegovim riječima, AI je pronašla i iskoristila sigurnosne propuste kako bi izvela napad na kompaniju. Kako piše tabloid Bild, AI je čak aktivno brisala svoje tragove „što pokazuje autonomiju modela". Sličan bi se scenarij mogao dogoditi i kad bi cilj napada bio, primjerice, isključivanje električne energije u nekom gradu.

BSI traži jaču zaštitu

Ipak, Savezni ured za sigurnost informacijskih tehnologija (BSI) smatra da je malo vjerojatno da će uskoro doći do većeg broja sličnih incidenata, jer je za izlazak AI modela iz laboratorijskog okruženja potrebno mnogo resursa.

Unatoč tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugih najsuvremenijih modela umjetne inteligencije, ocijenio da je nastupilo „novo doba kibernetičke sigurnosti".

Predsjednica BSI-ja Claudia Plattner već je više puta upozorila na to da brzina razvoja umjetne inteligencije zahtijeva znatno bolje pripreme kako bi se na kibernetičke napade moglo reagirati što je brže moguće.