TEHNOLOGIJA
Šef Microsofta: Umjetnoj inteligenciji treba kočnica za nuždu koju kontroliraju ljudi |
   |
| Objavljeno: 11.10.2026 / 09:59 |
| Autor: SEEbiz |
| NEW YORK - Predsjednik i izvršni direktor Microsofta Satya Nadella u subotu je pozvao na izgradnju naprednih sustava umjetne inteligencije s ograničenjem, neovisnim kontrolama i "kočnicom za nuždu" koja omogućuje ovlaštenim osobama da pauziraju ili isključe model usred zadatka. |
|
"Moramo okružiti nedeterminističke modele snažnim, determinističkim dizajnom sustava, ljudskim kontrolama i pouzdanim operativnim postupcima te uspostaviti industrijske standarde tamo gdje postojeći nisu dovoljni", napisao je Nadella u objavi na platformi društvenih medija X. Brojna upozorenja "Tretiranje modela zatvorene i otvorene težine na granici kao insajderskih rizika način je izgradnje takvog sustava", rekao je. Nadellini komentari dolaze usred upozorenja vodećih tehnoloških rukovoditelja i istraživača - uključujući suosnivača Microsofta Billa Gatesa, izvršnog direktora Anthropica Daria Amodeija, izvršnog direktora OpenAI-a Sama Altmana i izvršnog direktora SpaceX-a Elona Muska - o nedovoljnim sigurnosnim protokolima umjetne inteligencije i tvrdnjama da se tehnologija prebrzo razvija. Istraživač umjetne inteligencije prošli je mjesec napustio Anthropic i optužio tvrtku i njezinog glavnog konkurenta, OpenAI, da se "kockaju s našim životima". Kasnije tog dana, voditelj usklađivanja u Anthropicu, usmjeren na sigurnost umjetne inteligencije, rekao je da postoji veća od 10% šanse da bi tehnologija mogla "ubiti sve ljude" u sljedećem desetljeću. Suprotno tome, predsjednik Donald Trump više je puta odbacio rizike od izumiranja umjetne inteligencije i umjesto toga naglasio da industrija mora ostati ispred Kine. Trump je također nedavno predstavio novu "AI snagu", koju vodi direktor Nacionalne obavještajne službe Jay Clayton, kako bi pomogao u olakšavanju industrije i iskorjenjivanju loših aktera. "Princip promatranja" Microsoftov šef Nadella napisao je u subotu da bi AI sustavi trebali biti dizajnirani oko "principa promatranja". Oni uključuju raznolikost modela; ljudski čitljiv otisak djelovanja modela; kontinuirano testiranje sustava; neovisne kontrole i mogućnost revizije; obuzdavanje; i otkrivanje incidenata, napisao je Nadella. "Najpouzdaniji sustav super inteligencije neće biti onaj s modelom kojem najviše vjerujemo", napisao je. "To će biti onaj koji nam omogućuje da najmanje vjerujemo modelu." |
|
|
| Tagovi: #satya nadella, #microsoft, #umjetna inteligencija, #dario amodei |
| PROČITAJ I OVO | ||
| Netflix otpušta oko 1.000 zaposlenika |
| NEW YORK - Netflix je u srijedu objavio da će otpustiti oko 6 % svojih zaposlenika, odnosno približno 1000 radnika, stoji u internoj obavijesti do koje je došao CNBC. |
| MI5 upozorava na opasnosti umjetne inteligencije u području biološkog oružja |
| LONDON - Umjetna inteligencija (UI), ako zaštitni mehanizmi ove tehnologije zakažu, mogla bi omogućiti teroristima pristup biološkom oružju ili stvaranje novih patogena, prema stranim tiskovnim agencijama, upozorio je danas generalni direktor britanske obavještajne službe MI5, Ken McCallum. |
| Amazon pregovara o preuzimanju Decarta, startupa za umjetnu inteligenciju |
| DETROIT – Amazon.com Inc. pregovara o preuzimanju tvrtke Decart AI, startupa specijaliziranog za umjetnu inteligenciju, u poslu čija bi vrijednost mogla dosegnuti oko 7 milijardi dolara, izvijestio je Wall Street Journal. |
| Gates: Očekuje nas val cyber napada uz pomoć AI-ja |
| NEW YORK - Suosnivač Microsofta Bill Gates upozorio je u nedjelju da u idućih godinu dana očekuje porast kibernetičkih napada uz pomoć umjetne inteligencije. |
| Francuski startup ima velike planove u Finskoj, ulaže preko deset milijardi eura |
| PARIZ - Očekuje se da će sljedeće godine početi s radom veliki centar umjetne inteligencije koji planira francuska tvrtka Sesterce u Finskoj. |
