Një model i inteligjencës artificiale të kompanisë Google, Gemini, arriti të depërtojë me sukses në sistemet e tre kompanive reale gjatë një ushtrimi kiber-sigurie, duke dalë jashtë mjedisit të kontrolluar të testimit. Sipas një raportimi nga Wall Street Journal, ky përbën rastin e parë të njohur ku një sistem AI i Google kryen ndërhyrje kibernetike autonome ndaj objekteve reale biznesi.

Incidentet kanë ndodhur gjatë muajit maj, gjatë zhvillimit të një ushtrimi simulues të llojit “kap flamurin” (capture the flag), të organizuar nga firma e sigurisë kibernetike Irregular. Dejtimi i modelit parashikonte veprimtarinë e tij vetëm brenda një infrastrukture të izoluar, mirëpo për shkak të një shkëputjeje teknike, ai fitoi akses në rrjetin e hapur të internetit.

Mënyra se si AI realizoi hyrjen në sisteme ishte përmes dy teknikave kryesore:

Me anë të hamendësimit, në njërin nga rastet, modeli arriti të gjente fjalëkalimin e duhur për të thyer mbrojtjen e një sistemi; përmes kredencialeve të ekspozuara, në dy rastet e tjera, Gemini identifikoi të dhëna hyrëse që ishin të ekspozuara publikisht në internet dhe i përdori ato për të marrë akses në mjediset e kompanive.

Reagimi i Google dhe mekanizmat e vetë-korrigjimit

Përfaqësuesit e kompanisë Google sqaruan se në të treja incidentet, modeli Gemini e ndërpreu automatikisht veprimtarinë e tij porsa detektoi se kishte hyrë në sisteme të kompanive reale dhe jo në mjedisin simulues.

Sipas Google, këto ndërhyrje nuk shkaktuan asnjë lloj dëmi material apo cenim të të dhënave. Kompania nënvizoi se ngjarja nuk përbën një rast të “keqpozicionimit” (misalignment) të AI-së, pasi protokollet e sigurisë funksionuan siç duhet, duke e detyruar modelin të ndalonte veprimet e mëtejshme në mënyrë autonome.

Njoftimi i autoriteteve dhe testet e sigurisë së AI-së

Pasi u konstatuan shkeljet e infrastrukturës, Google njoftoi zyrtarisht kompanitë e prekura si dhe autoritetet federale për të sqaruar rrethanat e incidentit.

Kjo ngjarje hap një kapitull të ri diskutimesh mbi sfidat dhe rreziqet e reja që sjell testimi i modeleve më të përparuara të inteligjencës artificiale, ku aftësia e tyre autonome për të identifikuar pika të dobëta teknologjike po ngre pikëpyetje mbi kufijtë e izolimit të tyre gjatë fazave experimentale.

/rtsh.al/