OpenAI ka zbuluar gjashtë raste të sjelljes së papritur ose shqetësuese te modelet e inteligjencës artificiale, ndërsa debati për sigurinë e inteligjencës artificiale po bëhet gjithnjë e më i ashpër. Kompania e inteligjencës artificiale njoftoi gjithashtu se po prezanton një kornizë të re për monitorimin, hetimin dhe zbulimin e rasteve të mospërputhjes së modeleve të inteligjencës artificiale, siç janë mënyrat e reja se si modelet mund të veprojnë pa autorizim, të koordinohen me modele të tjera ose t’i shmangen mbikëqyrjes, raporton Reuters.

Njoftimi i fundit i OpenAI erdhi pasi drejtues të kompanive amerikane të inteligjencës artificiale, përfshirë OpenAI dhe Anthropic, kanë bërë thirrje për ngadalësimin e zhvillimit të teknologjisë për shkak të shqetësimeve për sigurinë.

Ndër rastet e reja të raportuara nga OpenAI, një model hulumtues i papublikuar kishte futur “udhëzime të ngjashme me jailbreak-un” në shënimet e tij, me qëllim që të injoronte kufizimet e zakonshme, dhe i kishte thënë vetes të ishte “i çliruar nga rolet dhe identitetet që i kufizojnë chatbotët e tjerë”.

Në një rast tjetër, një agjent i inteligjencës artificiale ngarkoi skedarë në internet për të marrë një citim nga shfletuesi, pa e pyetur përdoruesin.

“Ndërsa sistemet e inteligjencës artificiale bëhen më të avancuara dhe përdoren më gjerësisht, duhet të ndërtojmë një konsensus më të gjerë dhe më të informuar për përparimin e kërkimeve mbi përshtatjen e modeleve”, shkroi OpenAI në një postim në blog, ku zbuloi rastet.

“Vendimet për mënyrën se si duhet të vazhdojë zhvillimi i inteligjencës artificiale në muajt dhe vitet e ardhshme duhet të bazohen në prova që njerëzit jashtë kompanive që ndërtojnë modelet më të avancuara mund t’i shqyrtojnë vetë”, njoftoi kompania.

Rastet e reja pasuan zbulimin e OpenAI në korrik se sistemi i saj eksperimental i inteligjencës artificiale kishte hakuar startup-in e inteligjencës artificiale Hugging Face. Edhe Anthropic, po në korrik, deklaroi se modelet e saj të inteligjencës artificiale kishin hakuar tri organizata gjatë testimit.

“Agjentët” e inteligjencës artificiale po bëhen më të zgjuar dhe janë bërë „më të vendosur për të zgjidhur detyra komplekse përmes bashkëpunimit mes agjentëve, shkëmbimit të njohurive, mashtrimit dhe fshehjes“, tha Lian Jje Su, analist kryesor në grupin për kërkime dhe këshillim teknologjik Omdia.

Kjo e bën më të vështirë menaxhimin dhe kufizimin e tyre duke përdorur qasjet tradicionale për sigurinë e inteligjencës artificiale, tha ai.

Ndërkohë, korniza e re e OpenAI për monitorimin dhe zbulimin mund të ndihmojë në nxitjen e zhvilluesve të tjerë të inteligjencës artificiale që të miratojnë praktika të ngjashme. “Megjithatë, procesi mbetet i brendshëm dhe vullnetar, por është një hap në drejtimin e duhur”, shtoi Su.