Kaplan: Ulazimo u najopasniju fazu razvoja umjetne inteligencije

Prema njegovim riječima, izbor je još uvijek u našim rukama, no samo ako ne odlučimo prepustiti kontrolu strojevima, prenosi Futurism.

Točka bez povratka

Kaplan predviđa da se ta točka odluke brzo približava. U intervjuu za The Guardian upozorio je da će čovječanstvo najkasnije do 2030. godine, a možda već i 2027., morati odlučiti hoće li preuzeti "ultimativni rizik" i dopustiti AI modelima da se sami obučavaju. Takav bi korak mogao pokrenuti "eksploziju inteligencije" koja bi tehnologiju vinula u nove visine i dovela do stvaranja umjetne opće inteligencije (AGI) - sustava koji nadmašuje ljudski intelekt. To bi moglo donijeti goleme dobrobiti čovječanstvu kroz znanstvene i medicinske napretke. S druge strane, ista odluka mogla bi omogućiti nekontrolirano širenje moći umjetne inteligencije, ostavljajući nas na milost i nemilost njezinim hirovima.

"Zvuči kao nekakav zastrašujući proces", rekao je. "Ne znate gdje ćete završiti."

Kaplan nije usamljen u svojim strahovima. On je dio sve više istaknutih stručnjaka koji upozoravaju na potencijalno katastrofalne posljedice razvoja AI-ja. Geoffrey Hinton, jedan od "kumova umjetne inteligencije", javno je izrazio žaljenje zbog svog životnog djela i često upozorava da bi AI mogao uništiti društvo. Sam Altman iz OpenAI-ja predviđa da će AI izbrisati čitave kategorije poslova, dok je Kaplanov šef, izvršni direktor Anthropica Dario Amodei, nedavno upozorio da bi AI mogao preuzeti polovicu uredskih poslova za početnike, optužujući konkurenciju da "uljepšava" stvarne razmjere poremećaja koje će AI izazvati.

Najveći strah: Samostalno učenje strojeva

Čini se da se Kaplan slaže s procjenom svog šefa o utjecaju na radna mjesta. U intervjuu je izjavio kako očekuje da će AI moći obavljati "većinu uredskih poslova" već za dvije do tri godine. Iako je optimističan da se AI može zadržati usklađenim s ljudskim interesima, njegova najveća briga je mogućnost da se moćnim AI sustavima dopusti da obučavaju druge AI sustave. To je, kako kaže, "izuzetno važna odluka" koju ćemo morati donijeti vrlo brzo.

"To je ono što smatramo možda najvećom odlukom ili najstrašnijom stvari za učiniti… jednom kada nitko nije uključen u proces, zapravo ne znate", rekao je za The Guardian. "Jedno je hoćete li izgubiti kontrolu nad tim? Znate li uopće što AI-jevi rade?"

Dok se veći AI modeli već koriste za obuku manjih u procesu poznatom kao destilacija, Kaplan je prvenstveno zabrinut zbog takozvanog rekurzivnog samopoboljšanja - procesa u kojem AI uči bez ikakve ljudske intervencije i tako ostvaruje goleme skokove u svojim sposobnostima.

Apokalipsa kao marketing?

Dopuštanje takvog razvoja postavlja teška filozofska pitanja. "Glavno pitanje je: jesu li AI-jevi dobri za čovječanstvo?" rekao je Kaplan. "Jesu l
i korisni? Hoće li biti bezopasni? Razumiju li ljude? Hoće li dopustiti ljudima da i dalje imaju kontrolu nad svojim životima i nad svijetom?"

Ipak, Kaplanova upozorenja treba promatrati i s dozom opreza. Vizije apokalipse, iako zvuče dramatično, ujedno jačaju percepciju da je AI najvažnija tehnologija ikad stvorena, što služi kao svojevrstan marketing. Takva predviđanja često skreću pozornost sa stvarnih i trenutnih problema, poput ogromnog ekološkog otiska AI tehnologije, kršenja autorskih prava i njezinih iluzornih kognitivnih učinaka.

Osim toga, mnogi stručnjaci, uključujući i utjecajne figure poput Yanna LeCuna, ne vjeruju da je trenutna arhitektura jezičnih modela (LLM) uopće sposobna razviti se u svemoćne sustave kakvih se Kaplan pribojava. Nije čak ni sigurno da AI doista povećava produktivnost - neka istraživanja sugeriraju suprotno, a zabilježeno je i nekoliko neuspješnih pokušaja zamjene radnika AI agentima koji su na kraju ponovno zaposleni.

I sam Kaplan priznaje mogućnost da bi razvoj AI-ja mogao stagnirati. "Možda je najbolji AI ikada onaj AI koji imamo sada", rekao je, no odmah se ogradio: "Ali mi stvarno ne mislimo da je to slučaj. Mislimo da će se nastaviti poboljšavati."