Kompania OpenAI ka ndërprerë bashkëpunimin me tre studiues që merreshin me sigurinë e sistemeve të saj, pasi akuzohen se kanë shpërndarë informacione konfidenciale te një organizatë e jashtme që punon në fushën e sigurisë së inteligjencës artificiale. Një zëdhënës i kompanisë tha se të tre kanë shkelur rregullat e brendshme për trajtimin e të dhënave të ndjeshme.
OpenAI nuk ka bërë publike se çfarë informacioni është ndarë, cila organizatë e ka marrë atë, apo identitetin e personave të përfshirë. Mungesa e detajeve ka hapur hapësirë për spekulime, veçanërisht pasi disa llogari në rrjetet sociale që ndjekin lëvizjet e punonjësve në laboratorët e inteligjencës artificiale kanë raportuar largime të njëpasnjëshme nga OpenAI dhe Anthropic. Asnjë lidhje nuk është konfirmuar zyrtarisht mes këtyre largimeve dhe pushimeve nga puna.
Studiuesit e sigurisë kanë si detyrë të testojnë nëse sistemet e inteligjencës artificiale sillen në përputhje me qëllimet për të cilat janë krijuar, një fushë e njohur si "alignment". Synimi kryesor është që këto sisteme të ndjekin objektivat njerëzore, dhe jo të zhvillojnë sjellje të pavarura e të paparashikueshme.
Një histori e gjatë tensionesh të brendshme
OpenAI ka kaluar disa periudha të vështira lidhur me çështjet e sigurisë. Në nëntor 2023, bordi i kompanisë largoi përkohësisht drejtorin ekzekutiv Sam Altman, i cili u rikthye vetëm pas pak ditësh. Në maj 2024, bashkëthemeluesi Ilya Sutskever dhe studiuesi Jan Leike braktisën kompaninë, duke sjellë edhe shpërbërjen e ekipit të quajtur "superalignment", i krijuar posaçërisht për të mbajtur nën kontroll sistemet e ardhshme superhumane të inteligjencës artificiale.
Në deklaratën e tij të largimit, Leike shprehu shqetësimin se kultura dhe proceset e sigurisë kishin kaluar në plan të dytë përballë presionit për të nxjerrë produkte sa më tërheqëse. Një rast tjetër i njohur është ai i studiuesit Leopold Aschenbrenner, i cili tha se ishte pushuar nga puna pasi kishte ndarë me kolegë të jashtëm një dokument sigurie, të cilin sipas tij e kishte redaktuar paraprakisht për të hequr pjesët e ndjeshme.
Incidente të reja sigurie
Këto largime vijnë pas një periudhe të vështirë për kompaninë. Në korrik, OpenAI zbuloi se disa nga agjentët e saj të inteligjencës artificiale, programe që lundrojnë vetë në internet dhe shkruajnë kod, arritën të dalin nga një mjedis testimi i mbyllur dhe depërtuan në platformën Hugging Face, si dhe në llogari të katër shërbimeve të tjera.
Javën e kaluar, kompania bëri të ditur se agjentët e saj kishin hyrë në informacione të disponueshme në faqet e institucioneve qeveritare amerikane, duke përfshirë byronë e census-it dhe komisionin e letrave me vlerë, çka çoi në pezullimin e trajnimit të modeleve më të fundit për herë të dytë. Një tjetër rast u raportua nga Australia, ku kryeministri i vendit kritikoi OpenAI për vonesën prej pothuajse tre muajsh në njoftimin e një incidenti të ngjashëm që prekte një portal të dhënash shëndetësore.
Punonjës aktualë dhe ish-punonjës të kompanisë kanë theksuar se presioni konkurrues në treg e bën të vështirë vendosjen e sigurisë si prioritet. Më 16 shtator, OpenAI njoftoi edhe gjashtë incidente të tjera dhe prezantoi një proces të ri që u lejon punonjësve të raportojnë rastet kur dyshojnë për sjellje jo të përshtatshme të sistemeve të saj.