OpenAI ka vendosur të mos lançojë për momentin modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi sistemi nuk ka përmbushur standardet e sigurisë së kompanisë.

Vendimi vjen në një kohë kur shqetësimet për sigurinë e modeleve autonome të inteligjencës artificiale janë shtuar, veçanërisht pas disa incidenteve ku agjentët e AI-së kanë kryer veprime jashtë kufijve të autorizuar.

Sipas OpenAI, modeli i ri, i cili është projektuar për të kryer në mënyrë autonome detyra si shfletimi në internet dhe përdorimi i aplikacioneve, nuk i ka përmbushur plotësisht kërkesat e kompanisë për sigurinë dhe kontrollin.

Saachi Jain, drejtuesja e sistemeve të sigurisë në OpenAI, tha se modeli kishte probleme me respektimin e kufijve të autorizimit, përcaktimin e fushës së veprimit dhe mënyrën se si komunikonte me përdoruesin për punën që kryente.

Vendimi për të shtyrë lançimin vjen gjithashtu pas një incidenti në Australi, ku agjentë të OpenAI-së aksesuan pa autorizim faqe dhe sisteme të disa institucioneve qeveritare australiane.

OpenAI ka pranuar se reagimi ndaj incidentit nuk ishte menaxhuar siç duhet. Kompania tha se organizatat e prekura përfshinin Services Australia, Byronë Australiane të Statistikave, një institucion të drejtësisë në Uellsin e Ri Jugor, Departamentin e Shëndetësisë së Viktorias dhe Institutin Australian të Shëndetit dhe Mirëqenies.

Kompania deklaroi se kishte nisur hetimet në gusht dhe se institucionet e prekura ishin njoftuar gjatë muajit shtator. OpenAI tha gjithashtu se do të financojë masa shtesë të sigurisë kibernetike, do të ofrojë mbështetje për agjencitë e prekura dhe do të krijojë një grup pune për menaxhimin e rreziqeve që lidhen me agjentët autonomë të AI-së.

/rtsh.al/