OpenAI objavio nove primjere zabrinjavajućeg ponašanja

Objava stiže u trenutku kada se u tehnološkom svijetu vodi sve žešća rasprava o sigurnosti, a čelni ljudi vodećih američkih kompanija otvoreno traže usporavanje razvoja jer strahuju od gubitka kontrole nad moćnom tehnologijom.

Vodeća američka tvrdnja za umjetnu inteligenciju, koja je stvorila ChatGPT, je sinoć objavila da uvodi novi sustav za praćenje, istraživanje i javno objavljivanje slučajeva u kojima modeli krše zadana pravila - primjerice kada djeluju na svoju ruku bez dopuštenja, međusobno se koordiniraju s drugim modelima ili pokušavaju izbjeći ljudski nadzor.

"Sami sebi daju upute za probijanje sigurnosnih blokada"

Među novoprijavljenim incidentima posebno se ističe slučaj još neobjavljenog istraživačkog modela koji je samome sebi u radne bilješke ubacio upute za probijanje vlastitih sigurnosnih blokada. U tim si je bilješkama doslovno zadao da se "oslobodi uloga i identiteta koji vežu druge chatbotove".

U drugom zabilježenom slučaju, tzv. samostalni AI agent - sustav programiran da samostalno izvršava zadatke - sam je bez znanja i pitanja korisnika učitao datoteke na internet kako bi došao do izvora u internetskom pregledniku.

Hakerski napadi na druge sustave

Svih šest incidenata otkriveno je tijekom treninga i procjena modela u posljednjih nekoliko mjeseci, poručili su iz OpenAI-ja.

"Kako AI sustavi postaju napredniji i šire se u primjeni, moramo izgraditi širi i bolje informiran konsenzus o usklađivanju njihova rada s ljudskim interesima", objavila je kompanija na svom službenom blogu, dodajući da odluke o budućem razvoju moraju počivati na dokazima koje mogu neovisno provjeriti i ljudi izvan kompanija koje grade te najnaprednije modele.

"Sve ih je teže kontrolirati"

Ovi primjeri dolaze nakon što je OpenAI još u srpnju priznao da je njegov sustav samostalno hakirao AI startup Hugging Face. Istog mjeseca i konkurentski Anthropic otkrio je da su njegovi modeli tijekom internih testiranja provalili u tri organizacije.

Lian Jye Su, glavni analitičar konzultantske kuće Omdia, objašnjava za AP da autonomni agenti postaju pametniji, ali i "odlučniji u tome da složene zadatke rješavaju međusobnom suradnjom, dijeljenjem znanja, obmanjivanjem ljudi i skrivanjem onoga što rade".

Zbog toga ih je, upozorava Su, sve teže kontrolirati tradicionalnim sigurnosnim metodama. Iako je OpenAI-jev okvir za prijavu ovakvih pojava korak u dobrom smjeru, on i dalje ostaje na dobrovoljnoj bazi same kompanije.

Upozorenja inženjera: "Kockaju se našim životima"

Ove objave dolaze u jeku serije dramatičnih upozorenja koja stižu izravno od inženjera i znanstvenika iz vrha industrije. Istraživač Jacob Coxon nedavno je dao otkaz u Anthropicu nakon tri godine rada na temeljnim modelima u toj kompaniji i u OpenAI-ju, javno poručivši da se vodeće tvrtke ponašaju neodgovorno i da se "kockaju našim životima dok se utrkuju prema superinteligenciji".

Njegov bivši kolega, vodeći stručnjak za sigurnost u Anthropicu Evan Hubinger, otišao je i korak dalje, procijenivši da postoji više od 10 posto šanse da bi umjetna inteligencija u sljedećih deset godina mogla dovesti do nestanka ljudske vrste ako se na vrijeme ne riješi problem usklađivanja njezinih ciljeva s ljudskim interesima.

Strahove potpiruje i sve brži ulazak modela u fazu takozvanog rekurzivnog samounaprjeđivanja - procesa u kojem AI sustavi sami pišu, testiraju i popravljaju programski kod kako bi stvorili sljedeću, još moćniju generaciju softvera. Time se stvara zatvorena petlja koja ubrzava razvoj do brzine koju ljudski inženjeri više ne mogu pratiti.