TEHNOLOGIJA
Šef Microsofta: Umjetnoj inteligenciji treba kočnica za nuždu koju kontroliraju ljudi |
   |
| Objavljeno: 11.10.2026 / 09:59 |
| Autor: SEEbiz |
| NEW YORK - Predsjednik i izvršni direktor Microsofta Satya Nadella u subotu je pozvao na izgradnju naprednih sustava umjetne inteligencije s ograničenjem, neovisnim kontrolama i "kočnicom za nuždu" koja omogućuje ovlaštenim osobama da pauziraju ili isključe model usred zadatka. |
|
"Moramo okružiti nedeterminističke modele snažnim, determinističkim dizajnom sustava, ljudskim kontrolama i pouzdanim operativnim postupcima te uspostaviti industrijske standarde tamo gdje postojeći nisu dovoljni", napisao je Nadella u objavi na platformi društvenih medija X. Brojna upozorenja "Tretiranje modela zatvorene i otvorene težine na granici kao insajderskih rizika način je izgradnje takvog sustava", rekao je. Nadellini komentari dolaze usred upozorenja vodećih tehnoloških rukovoditelja i istraživača - uključujući suosnivača Microsofta Billa Gatesa, izvršnog direktora Anthropica Daria Amodeija, izvršnog direktora OpenAI-a Sama Altmana i izvršnog direktora SpaceX-a Elona Muska - o nedovoljnim sigurnosnim protokolima umjetne inteligencije i tvrdnjama da se tehnologija prebrzo razvija. Istraživač umjetne inteligencije prošli je mjesec napustio Anthropic i optužio tvrtku i njezinog glavnog konkurenta, OpenAI, da se "kockaju s našim životima". Kasnije tog dana, voditelj usklađivanja u Anthropicu, usmjeren na sigurnost umjetne inteligencije, rekao je da postoji veća od 10% šanse da bi tehnologija mogla "ubiti sve ljude" u sljedećem desetljeću. Suprotno tome, predsjednik Donald Trump više je puta odbacio rizike od izumiranja umjetne inteligencije i umjesto toga naglasio da industrija mora ostati ispred Kine. Trump je također nedavno predstavio novu "AI snagu", koju vodi direktor Nacionalne obavještajne službe Jay Clayton, kako bi pomogao u olakšavanju industrije i iskorjenjivanju loših aktera. "Princip promatranja" Microsoftov šef Nadella napisao je u subotu da bi AI sustavi trebali biti dizajnirani oko "principa promatranja". Oni uključuju raznolikost modela; ljudski čitljiv otisak djelovanja modela; kontinuirano testiranje sustava; neovisne kontrole i mogućnost revizije; obuzdavanje; i otkrivanje incidenata, napisao je Nadella. "Najpouzdaniji sustav super inteligencije neće biti onaj s modelom kojem najviše vjerujemo", napisao je. "To će biti onaj koji nam omogućuje da najmanje vjerujemo modelu." |
|
|
| Tagovi: #satya nadella, #microsoft, #umjetna inteligencija, #dario amodei |
| PROČITAJ I OVO | ||
| Nvidia naložila klijentima podatkovnih centara da smanje izloženost Kini |
| NEW YORK - Američki div u proizvodnji čipova Nvidia nalaže svojim partnerima u podatkovnim centrima da smanje rad s kineskim kupcima, izvijestio je u utorak Financial Times. |
| Oracle pod Trumpovim pritiskom otkazao ugovor s Tencentom |
| NEW YORK - Oracle je otkazao višemilijardni ugovor o najmu čipova s Tencentom nakon što je popustio pritisku Trumpove administracije, što je znak rastućih napetosti za američke pružatelje usluga u oblaku koji opslužuju kineske tvrtke za umjetnu inteligenciju. |
| Morgan Stanley lansirao svježe upozorenje oko AI dionica |
| NEW YORK - Veći dio protekle godine promatrao sam kolege novinare i tehnološku industriju općenito kako se bore s obveznim korporativnim alatima za umjetnu inteligenciju koji su nam trebali znatno olakšati radni život. |
| Apple povećao prihode, ali i upozorio na visok rast cijena memorije |
| CUPERTINO - Apple je u ponedjeljak izjavio da će "neviđeni" porast cijena memorijskih čipova i troškova održavanja njegovih AI alata smanjiti njegove marže, čak i uz predviđanja bolje od očekivane prodaje za ključnu božićnu sezonu. |
| Anthropic izvijestio o kvartalnom rastu prihoda od 1100% uoči IPO-a |
| NEW YORK - Div u području umjetne inteligencije Anthropic prijavio je prihod od 17 milijardi dolara u trećem tromjesečju ove godine, u odnosu na 1,4 milijarde dolara godinu ranije. Tvrtka, koja se priprema za izlazak na burzu, prijavila je gubitak od 23,3 milijarde dolara. |
