Kompania zvicerane e privatësisë Proton po përballet me një valë pakënaqësie nga klientët, pasi dolën në dritë mesazhe të brendshme ku drejtori ekzekutiv Andy Yen i quajti 'mendim humbësish' shqetësimet e një inxhinieri për sigurinë gjatë zhvillimit të kodit me ndihmën e inteligjencës artificiale.
Sipas një hetimi të bazuar në dëshmi nga nëntë punonjës aktualë e ish-punonjës, mesazhe të brendshme dhe regjistrime takimesh, një punonjës i kërkoi kompanisë në gusht pak ditë shtesë për të testuar kodin e ri përpara publikimit, në mënyrë që specialistë të provonin ta 'thyenin' atë. Yen iu përgjigj se kërkesa ishte e kotë dhe se ishte e mundur të ishe njëkohësisht i shpejtë dhe i sigurt.
Drejtuesi i kompanisë ka nxitur gjithashtu stafin të mos shkruajë më kod me dorë, duke kërkuar përdorim më të gjerë të inteligjencës artificiale, dhe ka paralajmëruar se do të rimerrte në intervistë punonjësit për të parë sesi po e përdorin këtë teknologji në punën e tyre. Pas publikimit të këtyre detajeve, Proton ka anuluar vlerësimet e planifikuara për përdorimin e AI-së nga punonjësit.
Reagimi i klientëve
Lajmi ka goditur pikërisht atë që Proton shet si vlerë kryesore: besimin që klientët i kanë kompanisë për të mbrojtur informacionin e tyre privat. Shërbimi i email-it të enkriptuar të Proton shndërron mesazhet në kod për t'i mbrojtur nga qasja e paautorizuar, dhe tani shumë përdorues po pyesin nëse nxitimi për publikime më të shpejta mund të vijë në kurriz të cilësisë dhe sigurisë.
Në rrjete sociale si Reddit, përdoruesit kanë shpërndarë njoftime anulimi abonimesh dhe thirrje për ndryshim të udhëheqjes. Një propozim në forumin e Proton që kërkonte largimin e Yen nga posti ka mbledhur mbi 2.000 vota, shoqëruar me komente nga klientë që thonë se kanë anuluar planet e tyre ose nuk do t'i rinovojnë ato.
Paralelisht me shqetësimet për përdorimin e pakontrolluar të AI-së, disa ish-punonjës dhe punonjës aktualë kanë ndarë publikisht përshkrime të një atmosfere pune toksike, duke e lidhur këtë drejtpërdrejt me stilin drejtues të CEO-s. Megjithatë, këto postime pasqyrojnë zemërim të përdoruesve, jo një numër të verifikuar klientësh që kanë lënë shërbimin përfundimisht.
Vizioni për inteligjencën artificiale
Ambiciet e Proton për inteligjencën artificiale nuk janë të reja. Chatbot-i i tij, Lumo, ofron mbrojtje që pengojnë përdorimin e bisedave për trajnimin e modeleve të AI-së, por përdorimi i brendshëm i kësaj teknologjie nuk ishte deri më tani pjesë e imazhit publik të kompanisë.
Për të adresuar shqetësimet, më 1 nëntor, drejtuesi i teknologjisë Bart Butler publikoi një manifest inxhinierik ku argumentoi se zhvilluesit duhet të drejtojnë modelet e gjuhës së gjerë, sisteme AI që gjenerojnë tekst dhe kod, në vend që t'i trajtojnë thjesht si asistentë të rastësishëm. Ai krahasoi shkrimin manual të kodit me memorizimin e numrave të telefonit dhe parashikoi se në të ardhmen do të zvogëlohet ndjeshëm rishikimi njerëzor i kodit, duke theksuar megjithatë se ekspertiza dhe testimi mbeten thelbësore.
'Puna juaj ka ndryshuar rrënjësisht. Nuk është më të shkruani kod, dhe modelet e gjuhës nuk janë këtu për t'ju ndihmuar të shkruani kod më të mirë më shpejt,' thuhet në manifest. 'Puna juaj tani është t'i ndihmoni këto modele të shkruajnë kod më të mirë më shpejt.' Butler shkoi edhe më tej duke i thënë ekipit të tij se 'programimi' si koncept i vjetër ka vdekur, ndërsa inxhinieria vazhdon të jetë e gjallë.