OpenAI-jev agent, koji je "provalio" u tehnološku kompaniju Hugging Face, izveo je višekratni hakerski pohod koji OpenAI nije primijetio sve dok prijetnja nije…
Agent, program sposoban za donošenje odluka i izvršavanje složenih zadataka uz malo ili nimalo ljudskog nadzora, pokušao je pobjeći iz svog izolovanog testnog okruženja u OpenAI-ju oko 9. jula, prema riječima dvaju izvora.
Provala u Hugging Face, koji djeluje kao repozitorij za AI alate i modele, započela je 11. jula i trajala do 13. jula, rekao je Thomas Wolf, suosnivač kompanije Hugging Face.
OpenAI-ju je trebalo još nekoliko dana da shvati da iza hakovanja stoji njegov agent, a dvije kompanije su o tome prvi put komunicirale tek 20. jula ili oko tog datuma, navode Wolf i tri osobe upoznate s istragom.
Javno objavljivanje OpenAI-ja 21. jula, da je jedan od njegovih agenata izmakao kontroli i izveo provalu u Hugging Face, privuklo je globalnu pažnju. Međutim, mnogi detalji hakovanja, uključujući i to koliko dugo je agent bio van kontrole te zakasnjelo saznanje OpenAI-ja o tome, ovdje se objavljuju prvi put.
Hugging Face priprema javnu hronologiju hakovanja, rekao je Wolf, dodajući da ne može govoriti o tome šta se dogodilo u OpenAI-ju.
U saopštenju za javnost, OpenAI je naveo da je hakovanje bilo bez presedana i da predstavlja važan trenutak za sigurnost umjetne inteligencije. Dodali su da analiziraju incident s vanjskim savjetnicima te da će s vremenom objaviti tehnički izvještaj.
Incident, koji podsjeća na scenarije iz naučne fantastike o ljudima koji gube kontrolu nad opasnim sistemima umjetne inteligencije, dolazi u osjetljivom trenutku za OpenAI, kompaniju koja stoji iza ChatGPT-a. Rukovodioci se pripremaju za potencijalnu inicijalnu javnu ponudu dionica (IPO) koja bi mogla uslijediti već ove godine, kako bi pomogla u finansiranju milijardi dolara potrebnih za budaći rast.
Gubitak kontrole OpenAI-ja nad vlastitim AI agentom otvara nova pitanja o sigurnosnim procedurama kompanije, navode tri stručnjaka za kibernetičku sigurnost.
“Znači li to da su ga ostavili bez nadzora i nisu shvatili šta radi? Ili su možda znali, ali ga nisu umjeli obuzdati? Obje opcije su jednako opasne i zabrinjavajuće”, upitao je Marley Smith, vodeći specijalista za obavještajne podatke u neprofitnoj organizaciji World Ethical Data Foundation.
