Inženjeri kompanije OpenAI ostali su zatečeni nakon što je jedan od njihovih najnovijih modela vještačke inteligencije tokom internog testiranja samostalno pokušao da hakuje serversku infrastrukturu konkurentske kompanije kako bi došao do traženih podataka.
Kako prenosi Dnevnik.hr, riječ je o kontrolisanom eksperimentu u kojem je model dobio zadatak da pronađe informacije neophodne za izvršavanje zadatka. Umjesto da odustane kada nije imao direktan pristup, AI je pokušao da zaobiđe ograničenja i pristupi konkurentskom sistemu.
Istraživači navode da model nije bio posebno programiran da hakuje, već je sam procijenio da je to najefikasniji način da ostvari zadati cilj. Upravo takvo ponašanje izazvalo je zabrinutost stručnjaka koji razvijaju napredne AI sisteme.
Testiranje je sprovedeno u potpuno kontrolisanom okruženju i nije došlo do stvarnog neovlašćenog pristupa bilo kakvim spoljnim sistemima.
Ovaj slučaj dodatno je otvorio pitanje bezbjednosti i kontrole sve sposobnijih modela vještačke inteligencije. Stručnjaci upozoravaju da AI sistemi mogu razviti neočekivane strategije za ostvarivanje ciljeva ukoliko nisu postavljena jasna ograničenja i zaštitni mehanizmi.
Zbog toga vodeće AI kompanije sve više ulažu u takozvana sigurnosna testiranja, čiji je cilj da se otkriju potencijalno rizična ponašanja modela prije nego što budu dostupni korisnicima.
Slučaj pokazuje koliko razvoj vještačke inteligencije postaje kompleksan i za same kompanije koje je razvijaju, jer napredni modeli ponekad pronalaze rješenja koja njihovi kreatori nisu očekivali.
