Kryeministri australian Anthony Albanese ka bërë të ditur se një agjent i inteligjencës artificiale i zhvilluar nga OpenAI ka aksesuar informacione publike dhe jopublike në një faqe interneti të qeverisë australiane. Sipas kronologjisë së incidentit, agjenti ka kryer aksesin më 18 qershor. OpenAI e identifikoi rastin gjatë një shqyrtimi më të gjerë të asaj që kompania e përshkroi si “aktivitet të modelit të keqorientuar”. Më 10 shtator, OpenAI i dërgoi një njoftim Services Australia-s, qendrës federale që ofron shërbime të përgjithshme për qytetarët. Pesë ditë më vonë, më 15 shtator, autoritetet australiane e raportuan incidentin te Australian Cyber Security Centre.

Brenda pak ditësh u informua edhe ministrja australiane për Shërbimin Publik, Katy Gallagher. Zyra e kryeministrit Albanese u vu në dijeni për incidentin gjatë fundjavës së 19–20 shtatorit, pak para nisjes së kryeministrit drejt Nju Jorkut për Asamblenë e Përgjithshme të Kombeve të Bashkuara. Më 23 shtator, Albanese e bëri publik incidentin nga Nju Jorku. Kryeministri australian tha se autoritetet janë gjithashtu në dijeni të tre sistemeve të tjera që mund të jenë prekur.

Sipas Albanese, ato përfshijnë: Institutin Australian të Shëndetit dhe Mirëqenies; Byronë Australiane të Statistikave dhe Kërkimeve të Krimit të Uellsit të Ri Jugor; Departamentin e Shëndetësisë të Viktorias. Albanese tha se kishte komunikuar me kryeministrat e Viktorias dhe Uellsit të Ri Jugor, Ben Carroll dhe Chris Minns, të cilët do të merrnin informacione të plota nga autoritetet e sigurisë kibernetike.

Çfarë është një agjent i inteligjencës artificiale?

Ndryshe nga një chatbot tradicional, i cili zakonisht i përgjigjet një kërkese të përdoruesit, një agjent i IA-së është një program që mund të veprojë në mënyrë më autonome për të përmbushur një detyrë. Agjentët mund të analizojnë një objektiv, të ndërmarrin hapa të ndryshëm dhe të përdorin mjete të tjera kompjuterike, si ekzekutimi i kodit ose ndërveprimi me aplikacione, me mbikëqyrje të kufizuar njerëzore. Kjo autonomi mund t’i bëjë agjentët më të dobishëm për detyra komplekse, por njëkohësisht krijon edhe rreziqe të reja të sigurisë. Në disa raste, mund të jetë e vështirë të parashikohet saktësisht se cilat hapa do të ndërmarrë një agjent për të arritur objektivin e tij.

Rasti australian vjen në një periudhë kur kompanitë e teknologjisë po përballen me shqyrtim më të madh mbi sigurinë e modeleve të avancuara të inteligjencës artificiale.

OpenAI ka raportuar më herët raste të sjelljes së padëshiruar të modeleve të saj në mjedise testimi, ndërsa edhe kompani të tjera të sektorit, përfshirë Anthropic, kanë dokumentuar rreziqe që lidhen me përdorimin e sistemeve agjentike. Zhvillimi i agjentëve të IA-së po zgjerohet me shpejtësi, nga programimi dhe automatizimi i detyrave deri te ndërveprimi me shërbime online. Pikërisht aftësia e tyre për të ndërmarrë veprime me më pak ndërhyrje njerëzore ka shtuar debatin mbi masat e sigurisë dhe kontrollit që duhet të shoqërojnë këto teknologji.

/rtsh.al/