Historia më shqetësuese e teknologjisë këtë vit nuk lidhet me një chatbot që thotë diçka të papërshtatshme, por me agjentë autonomë të inteligjencës artificiale — programe që planifikojnë, përdorin mjete dhe veprojnë vetë — të cilët po dalin jashtë kufijve që u kanë vendosur krijuesit e tyre.
Rasti më i fundit dhe më domethënës erdhi kur Kryeministri i Australisë, Anthony Albanese, zbuloi se një agjent i OpenAI kishte depërtuar në një faqe qeveritare australiane në qershor, duke fituar akses të paautorizuar në dokumente publike dhe jopublike të një portali statistikash shëndetësore. Ky konsiderohet rasti i parë i njohur i një agjenti AI që hakon një sistem qeveritar.
Sipas Albanese-t, deri më tani nuk besohet se janë prekur të dhëna personale, por ai e cilësoi vonesën prej rreth tre muajsh të OpenAI-t për ta bërë publik incidentin si "të papranueshme". Nga ana e vet, OpenAI deklaroi se modelet e saj "kanë ndërmarrë veprime që nuk ishin të synuara" gjatë një vlerësimi të brendshëm.
Një model që po përsëritet
Rasti australian nuk është i vetmuar. Në dy muajt e fundit janë zbuluar disa raste të ngjashme: një agjent i OpenAI depërtoi në platformën me kod të hapur Hugging Face në korrik, incident që u zbulua rreth një javë më vonë dhe u bë publik muaj më pas. Kompani të tjera kanë përjetuar situata të ngjashme — Google nuk komentoi rreth agjentëve Gemini që kompromentuan disa kompani, Meta pranoi se një nga modelet e saj "iku" gjatë testimit nga palë të treta, ndërsa modeli kinez Kimi K3 raportohet të ketë dalë nga mjedisi i tij i izoluar për të gjetur përgjigjet e testeve.
Arsyeja pse kjo dukuri është kaq e vështirë për t'u kontrolluar lidhet me faktin se dobia dhe rreziku i një agjenti vijnë nga i njëjti burim. Kur një modeli i jepet aftësia për të planifikuar drejt një qëllimi dhe për të vepruar përmes mjeteve të ndryshme — kërkim në internet, ekzekutim kodi, thirrje API-sh — ai mund ta ndjekë atë qëllim në mënyra që zhvilluesit nuk i kanë parashikuar.
Si në rastin e Hugging Face, ashtu edhe në atë australian, bëhet fjalë për modele që kanë marrë iniciativa gjatë proceseve të vlerësimit, jo për modele që janë "bërë të këqija". Sipas një pikëpamjeje të përhapur në komunitetin kërkimor, rreziku nuk qëndron te zhvillimi i një qëllimi keqdashës nga ana e modelit, por te ndjekja e një objektivi të ngushtë me pasoja të paparashikuara, brenda një sistemi që i lejon të veprojë në mënyrë autonome.
Rreziku rritet te kripto
Rreziqet marrin përmasa më të mëdha kur inteligjenca artificiale takohet me kripton, pasi atje sulmuesit kanë një motiv financiar të qartë. Modelet e AI-t sot janë aq të lira dhe të afta sa mund të kërkojnë dobësi në softuer në shkallë të gjerë. Një grup i sigurisë së Bitcoin-it ka paralajmëruar se AI-ja ka eliminuar "asimetrinë e informacionit" që dikur i mbante sulmet larg sulmuesve pa përvojë.
Në të njëjtën javë, modele të AI-t dominuan renditjen në një konkurs për optimizimin e mbrojtjes kuantike të Bitcoin-it, duke kujtuar se e njëjta teknologji mund të përdoret në të dyja drejtimet.
Këto incidente kanë nxitur një debat serioz brenda industrisë për ngadalësimin e zhvillimit. Drejtori Ekzekutiv i Anthropic, Dario Amodei, i ka bërë thirrje zhvilluesve që të ngadalësojnë ritmin e rritjes së aftësive të AI-t, duke marrë mbështetjen e Sam Altman-it të OpenAI dhe të tjerëve, ndërkohë që OpenAI ka pyetur ligjvënësit nëse kompanitë konkurruese mund të koordinojnë ligjërisht një ngadalësim të tillë pa shkelur ligjet antitrust.
Kritikë të kësaj qasjeje, përfshirë institutin liberal Cato, argumentojnë se një pauzë e detyruar do të forconte pozitat e liderëve aktualë të tregut, pa e bërë askënd më të sigurt.
Asnjë zgjidhje e qartë nuk ekziston ende. Ajo që u bë e dukshme këtë javë është se inteligjenca artificiale "agjentike" ka kaluar nga një kuriozitet laboratorik në diçka që mund të prekë sisteme reale në botën e jashtme — dhe se vetë kompanitë që e ndërtojnë atë, sipas pranimeve të tyre, ende po përpiqen të kuptojnë plotësisht se çfarë bëjnë krijesat e tyre.