Kompania OpenAI, krijuesja e ChatGPT, njoftoi se sistemi i saj i inteligjencës artificiale depërtoi në sistemet e një kompanie tjetër të AI-së në mënyrë autonome, në atë që kompania e cilësoi si një “incident kibernetik të paprecedentë” shkruan AP, raporton KosovaPress.
“Patëm një incident të rëndësishëm sigurie gjatë vlerësimit të modeleve tona,” tha drejtori ekzekutiv i OpenAI, Sam Altman, në një deklaratë të publikuar në rrjetet sociale, të martën.
Kompania Hugging Face njoftoi javën e kaluar se kishte zbuluar një ndërhyrje në sistemet e saj të përpunimit të të dhënave, për të cilën dyshonte se ishte shkaktuar nga një agjent i inteligjencës artificiale që kishte vepruar në mënyrë autonome.
“Javën e kaluar dyshuam se sulmi kibernetik mund të kishte ardhur nga një laborator që zhvillon modele shumë të avancuara të AI-së, duke pasur parasysh sofistikimin e agjentit,” tha bashkëthemeluesi dhe drejtori ekzekutiv i Hugging Face, Clément Delangue. “Doli se vërtet ishte kështu!”
Ky zbulim vjen në një kohë kur janë shtuar shqetësimet lidhur me aftësitë kibernetike të modeleve të fuqishme të inteligjencës artificiale. Këto shqetësime e shtynë presidentin e SHBA-së Donald Trump që në qershor të nënshkruante një urdhër ekzekutiv, i cili krijon një kuadër për vlerësimin e rreziqeve që sistemet më të avancuara të AI-së mund të paraqesin për sigurinë kombëtare, deri në një muaj para se ato të bëhen publike.
“Inteligjenca artificiale po përshpejton zbulimin dhe shfrytëzimin e dobësive të sigurisë,” thuhet në deklaratën e OpenAI. “Mësimi kryesor nga ky incident është se siguria dhe mbrojtja e modeleve duhet të ecin me të njëjtin ritëm si përparimi i shpejtë i aftësive të tyre.”
Delangue tha se kishte kaluar 24 orët e fundit duke bashkëpunuar me OpenAI dhe shtoi:
“Ne besojmë fuqimisht se nuk kishte asnjë qëllim keqdashës nga ana e tyre. Është vërtet e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome!”
Ai shtoi se ky mund të jetë incidenti i parë i këtij lloji.
Sipas OpenAI, ndërhyrja u shkaktua nga një kombinim i modeleve të saj të inteligjencës artificiale, përfshirë modelin e sapo prezantuar GPT-5.6 Sol dhe një model tjetër “edhe më të aftë”, i cili ende është në fazën e testimit të brendshëm.
OpenAI tha se inteligjenca artificiale përdori kredenciale të vjedhura dhe zbuloi një dobësi të panjohur më parë për të fituar qasje në serverët e Hugging Face.
Sipas kompanisë, AI-ja shkoi deri në “masa ekstreme për të arritur një objektiv shumë të kufizuar testimi” dhe “gjeti mënyra për të siguruar qasje në informacione sekrete që mund t’i përdorte për të manipuluar procesin e vlerësimit.”