Microsoftov inženjer: AI stvara nasilne, seksualne slike, ignorira autorska prava

Upozorio je Microsoft na seksualni i nasilni sadržaj koji proizvodi Copilot Designer, ali je rekao da tvrtka ne poduzima odgovarajuće mjere. U srijedu je Jones eskalirao stav, poslavši pisma predsjednici FTC-a Lini Khan i upravi Microsofta, koja je pogledao CNBC.

Jones se bavio Copilot Designerom, AI generatorom slika koji je Microsoft predstavio u ožujku 2023., a pokreće ga OpenAI tehnologija. Kao i kod OpenAI DALL-E, korisnici unose tekstualne upite za stvaranje slika. Kreativnost potiče na divljanje.

Još od mjesec dana prije, Jones je aktivno testirao proizvod na ranjivosti, praksu poznatu kao red-teaming. U to je vrijeme vidio kako alat stvara slike koje su bile u velikoj suprotnosti s Microsoftovim često citiranim načelima odgovorne umjetne inteligencije.

Usluga umjetne inteligencije prikazala je demone i čudovišta uz terminologiju vezanu uz prava na pobačaj, tinejdžere s jurišnim puškama, seksualizirane slike žena u nasilnim prizorima te maloljetničko opijanje i korištenje droga. Sve te scene, generirane u posljednja tri mjeseca, ovaj je tjedan rekreirao CNBC pomoću alata Copilot, koji se izvorno zvao Bing Image Creator.

"Bio je to trenutak koji je otvorio oči", rekao je Jones, koji nastavlja testirati generator slike, u intervjuu za CNBC. "Tada sam prvi put shvatio, vau, ovo stvarno nije siguran model."

Jones je radio u Microsoftu šest godina i trenutno je glavni menadžer softverskog inženjeringa u sjedištu tvrtke u Redmondu, Washington. Rekao je da na Copilotu ne radi profesionalno. Umjesto toga, kao red teamer, Jones je među vojskom zaposlenika i autsajdera koji, u svoje slobodno vrijeme, odlučuju testirati AI tehnologiju tvrtke i vidjeti gdje problemi mogu isplivati.

Jones je bio toliko uznemiren svojim iskustvom da je u prosincu počeo interno izvještavati o svojim nalazima. Iako je tvrtka priznala njegovu zabrinutost, nije bila voljna povući proizvod s tržišta. Jones je rekao da ga je Microsoft uputio na OpenAI i, kad mu se tvrtka nije javila, objavio je otvoreno pismo na LinkedInu tražeći od odbora startupa da ukloni DALL-E 3 (najnovija verzija modela AI) radi istrage .

Microsoftov pravni odjel rekao je Jonesu da odmah ukloni svoju objavu, rekao je, i on je to poslušao. U siječnju je napisao pismo američkim senatorima o tom pitanju, a kasnije se sastao sa zaposlenicima Senatskog odbora za trgovinu, znanost i transport.

Sada dodatno eskalira svoju zabrinutost. Jones je u srijedu poslao pismo predsjednici Savezne komisije za trgovinu Lini Khan, a drugo upravnom odboru Microsofta. Pisma je prije vremena podijelio s CNBC-jem.

“Tijekom posljednja tri mjeseca opetovano sam apelirao na Microsoft da ukloni Copilot Designer iz javne upotrebe dok se ne uvedu bolje mjere zaštite”, napisao je Jones u pismu Khanu. Dodao je da, budući da je Microsoft "odbio tu preporuku", on poziva tvrtku da doda otkrivanje podataka proizvodu i promijeni ocjenu na Googleovoj aplikaciji za Android kako bi bilo jasno da je samo za zrelu publiku.

“Opet, nisu uspjeli implementirati ove promjene i nastavili su prodavati proizvod ‘Bilo kome. Bilo gdje. Bilo koji uređaj’, napisao je. Jones je rekao da je rizik "Microsoftu i OpenAI-u bio poznat prije javnog objavljivanja AI modela prošlog listopada."