Prema Deloitteovom izvješću Tehnološki trendovi za 2026., brza primjena AI-ja donosi i povećanje učinkovitosti i veće sigurnosne izazove, zbog čega je pronalaženje ravnoteže između inovacija i sigurnosti sve važniji strateški prioritet u svim industrijama.
Kako AI mijenja krajolik kibernetičkih prijetnji?
Organizacije diljem svijeta ubrzano implementiraju umjetnu inteligenciju, prepoznajući njezin potencijal za povećanje konkurentnosti u različitim sektorima. Međutim, ova široka primjena sa sobom donosi kompleksni paradoks u području kibernetičke sigurnosti. AI sposobnosti koje donose velike prednosti mogu istovremeno stvoriti nove sigurnosne rizike, ubrzavajući brzinu i utjecaj kibernetičkih prijetnji.
Mnogi od današnjih rizika povezanih s umjetnom inteligencijom potječu iz same organizacije. To uključuje tzv. „shadow AI“, odnosno neovlaštene implementacije umjetne inteligencije od strane pojedinih timova koje stvaraju značajne praznine u upravljanju – kao i autonomne sustave koji donose odluke i rade s osjetljivim podacima. Takve implementacije predstavljaju potencijalne izvore curenja podataka, manipulacije modelima ili neovlaštenog pristupa, naglašavajući ključnu potrebu za proaktivnim upravljanjem rizicima.
Deloitteovo istraživanje Tehnološki trendovi za 2026. identificira četiri ključna područja u kojima se manifestiraju sigurnosni rizici povezani s umjetnom inteligencijom: podaci, AI modeli, aplikacije i infrastruktura. Iako se puni opseg prijetnji i dalje razvija, prostor za sigurnosne pristupe s brzom reakcijom znatno se smanjuje. Mnoge postojeće sigurnosne prakse potrebno je stoga dubinski prilagoditi kako bi odgovorile na specifične izazove koje donosi AI.
„Iako umjetna inteligencija donosi nove prijetnje i ubrzava napad, mnogi temeljni principi kibernetičke sigurnosti i dalje su ključni. Naš je izazov prilagoditi ove ustaljene prakse, poput pouzdanih ciklusa razvoja softvera i stroge kontrole pristupa, jedinstvenim zahtjevima AI sustava, kako bismo osigurali da inovacije ne nadmaše sigurnost“, rekao je Ratko Drča, Deloitteov direktor u Odjelu poslovnog savjetovanja i stručnjak za kibernetičku sigurnost.
Korištenje umjetne inteligencije za naprednu kibernetičku obranu i buduću spremnost
Iako AI donosi nove sigurnosne izazove, istovremeno pruža i snažne obrambene mogućnosti, omogućujući organizacijama da rapidno djeluju i prilagode se prijetnjama u stvarnom vremenu. Rješenja za kibernetičku sigurnost pokretana umjetnom inteligencijom mogu otkrivati obrasce koje ljudski analitičari mogu previdjeti, sposobna su nadzirati cijela digitalna okruženja, ubrzati reakcije na prijetnje, predvidjeti poteze napadača i automatizirati repetitivne zadatke.
Vodeće organizacije već koriste napredne obrambene strategije temeljene na umjetnoj inteligenciji. To uključuje i tzv. „red teaming“, gdje se sustavi temeljito testiraju kroz simulirane napade i stres testove kako bi se otkrile slabosti u AI sustavima prije nego što ih zlonamjerni akteri mogu iskoristiti. Osim toga, tehnike adversarijalnog treninga pomažu modelima da prepoznaju i odupru se pokušajima manipulacije, čineći sustave otpornijima na sofisticirane napade.
Okvir upravljanja, rizika i usklađenosti u području umjetne inteligencije također se ubrzano razvija, uz nove zahtjeve osobito u reguliranim industrijama poput zdravstva i financijskih usluga. Sve je izraženiji trend dodjeljivanja odgovornosti za nadzor AI-ja nadzornim odborima, koji su dobro pozicionirani za kontinuirano praćenje i procjenu aktivnosti povezanih s umjetnom inteligencijom.
Autonomni sustavi postaju rasprostranjeniji
Upravljanje naprednim AI agentima, uključujući dinamičko upravljanje ovlastima i cjelovito upravljanje njihovim životnim ciklusom, postaje ključno kako autonomni sustavi postaju rasprostranjeniji.
„Potencijal umjetne inteligencije da djeluje kao multiplikator snage u području kibernetičke sigurnosti teško je precijeniti. Automatizacijom ponavljajućih zadataka, prepoznavanjem suptilnih obrazaca napada i ubrzavanjem odgovora na prijetnje, AI omogućuje sigurnosnim timovima brže i informiranije donošenje odluka te iz temelja mijenja način na koji organizacije upravljaju rizicima“, istaknuo je Drča.
Gledajući unaprijed, novi trendovi poput povezivanja umjetne inteligencije i fizičke infrastrukture, razvoja autonomnog kibernetičkog ratovanja te otvaranja novih područja u svemirskoj i kvantnoj sigurnosti dovest će u pitanje dosadašnje pretpostavke o kibernetičkoj sigurnosti. Priprema za takve moguće scenarije zahtijeva već danas izgradnju prilagodljivih tehnoloških arhitektura i učinkovitih okvira upravljanja.
Put naprijed zahtijeva strateški, višeslojni pristup obrani, u kojem je sigurnost ugrađena u AI inicijative od samog početka. Organizacije koje uspiju postići tu ravnotežu – koristeći potencijal umjetne inteligencije i za inovacije i za snažnu zaštitu – neće samo zaštititi svoju imovinu, već će ostvariti i važnu konkurentsku prednost u svijetu koji se sve više oslanja na umjetnu inteligenciju.
