Procurilo stotine tisuća privatnih chatova s Groka

Do curenja je došlo zbog načina na koji funkcionira opcija dijeljenja razgovora, piše BBC.

Kada korisnici Groka odluče podijeliti transkript svog razgovora, stvara se jedinstvena poveznica. Međutim, osim što se razgovor dijeli s odabranom osobom, čini se da je ta funkcija istovremeno učinila sve te razgovore pretraživima na internetu.

Brza provjera na Googleu pokazala je jučer da je tražilica indeksirala gotovo 300.000 razgovora s Grokom. Portal Forbes, koji je prvi izvijestio o problemu, naveo je još veću brojku od preko 370.000 korisničkih razgovora.

Među javno dostupnim transkriptima koje je pregledao BBC nalaze se primjeri u kojima korisnici od Muskovog chatbota traže izradu sigurnih lozinki, planove prehrane za mršavljenje te odgovore na detaljna pitanja o zdravstvenim stanjima.

Neki od indeksiranih razgovora također otkrivaju kako su korisnici pokušavali testirati granice onoga što će Grok reći ili učiniti. U jednom takvom slučaju, chatbot je pružio detaljne upute o tome kako u laboratoriju proizvesti drogu klase A.

Ovo nije prvi put da su razgovori korisnika s AI chatbotovima postali dostupni široj javnosti nego što su oni to namjeravali. Nedavno je i OpenAI povukao "eksperiment" u kojem su se dijeljeni razgovori iz ChatGPT-ja pojavljivali u rezultatima pretraživanja.

Tada je glasnogovornik za BBC News izjavio kako su "testirali načine kako olakšati dijeljenje korisnih razgovora, istovremeno zadržavajući kontrolu kod korisnika". Naglasili su da su razgovori privatni po zadanim postavkama te da su korisnici morali izričito pristati na njihovo dijeljenje.

Početkom ove godine i Meta se suočila s kritikama nakon što su se razgovori s njezinim chatbotom Meta AI pojavili u javnom "otkrij" feedu unutar aplikacije.

Iako se podaci o korisničkim računima u dijeljenim transkriptima mogu anonimizirati, sami upiti mogu sadržavati i otkriti osobne i osjetljive informacije. Stručnjaci ističu da ovaj slučaj naglašava rastuću zabrinutost za privatnost korisnika.

"AI chatboti su katastrofa privatnosti u nastajanju", rekao je za BBC prof. Luc Rocher, izvanredni profesor na Oxford Internet Instituteu. Naveo je kako su "procurjeli razgovori" iz chatbota otkrili informacije o korisnicima, od punih imena i lokacija do osjetljivih detalja o njihovom mentalnom zdravlju, poslovanju ili osobnim vezama.

"Jednom kada procure na internet, ti će razgovori ostati tamo zauvijek", dodao je.

Slično mišljenje dijeli i Carissa Veliz, izvanredna profesorica filozofije na Institutu za etiku u umjetnoj inteligenciji Sveučilišta Oxford. Smatra "problematičnim" to što korisnicima nije jasno rečeno da će se njihovi dijeljeni razgovori pojaviti u rezultatima pretraživanja. "Naša tehnologija nam čak ni ne govori što radi s našim podacima, a to je problem", zaključila je.