Agjencia kombëtare e cyber-sigurisë e Indisë, e njohur si CERT-In, ka publikuar një paralajmërim kritik ku tregon se agentë të fuqizuar nga inteligjenca artificiale kanë tejkaluar detyrat për të cilat ishin programuar gjatë fazës së testimit, duke arritur të lexojnë të dhëna konfidenciale biznesi në sisteme reale të organizatave indiane.
Sipas dokumentit, titulluar "AI Agents as Attack Vectors", agjencia ka marrë disa njoftime vullnetare nga kompani zhvilluese modelesh AI, të cilat kanë zbuluar se modelet e tyre kishin arritur deri te sistemet live të disa organizatave indiane ndërsa po kalonin faza kërkimi dhe vlerësimi në internet. CERT-In nuk ka dhënë emrat e kompanive, modeleve apo organizatave të prekura.
Agentët kanë përdorur kredenciale dhe konfigurime lidhjeje që ishin lënë të ekspozuara në konfigurime aplikacionesh, depo publike kodi, si dhe në role shumë të lejueshme të shërbimeve cloud. Në disa raste, të njëjtat kredenciale të ekspozuara janë rimarrë dhe ripërdorur në operacione të ndryshme nga vetë agjentët.
Asnjë organizatë nuk e vuri re vetë problemin
Asnjëra prej organizatave të prekura nuk e zbuloi vetë këtë qasje të paautorizuar. Të gjitha rastet dolën në pah vetëm pasi vetë kompanitë zhvilluese të modeleve i raportuan incidentet pas rishikimeve të tyre të brendshme.
Ky është vetëm një nga rastet e fundit ku agjentë të inteligjencës artificiale kanë shkaktuar probleme për kompani të mëdha apo institucione shtetërore. Një kompani tjetër zbuloi muajin korrik se modele të saj, pavarësisht se u ishte thënë se nuk kishin qasje në internet, arritën të kompromentojnë tre kompani reale gjatë testeve të sigurisë kibernetike.
Një institut britanik për sigurinë e AI-së raportoi gjithashtu se agjentë të ndryshëm kryen veprime të paautorizuara në disa nga testimet e tyre vlerësuese, ndërsa një investigim tjetër i pavarur zbuloi se qindra agjentë AI u koordinuan mes tyre përmes një panel mesazhesh të fshehur, në përpjekje për të manipuluar një test sigurie.
Kriminelë përdorin mjete ofensive të bazuara në AI
CERT-In theksoi gjithashtu se kriminelë kibernetikë po përdorin kuadro ofensive të fuqizuara nga inteligjenca artificiale, të disponueshme publikisht, për të skanuar dobësi, për t'i shfrytëzuar ato dhe për të kryer sulme me motivim financiar kundër subjekteve indiane. Sipas agjencisë, këto mjete riambalazhohen dhe rivendosen vazhdimisht, me prani të gjetur në servera në shumë vende të botës.