Kompanija Anthropic, jedna od vodećih svjetskih laboratorija za razvoj vještačke inteligencije, upozorila je da bi AI sistemi mogli biti bliže nego ikada trenutku kada će moći da učestvuju u stvaranju svojih nasljednika, otvarajući ozbiljna pitanja o bezbjednosti, kontroli i budućnosti razvoja ove tehnologije.
U novom izvještaju pod nazivom „When AI Builds Itself“, kompanija navodi da njen model Claude danas piše više od 80 odsto koda koji se ugrađuje u produkcione sisteme kompanije. Istovremeno, produktivnost inženjera značajno je porasla, pa se danas isporučuje oko osam puta više koda nego prethodnih godina.
Prema ocjeni Anthropica, riječ je o početku procesa koji nazivaju „rekurzivno samousavršavanje“ (recursive self-improvement), scenariju u kojem bi vještačka inteligencija mogla da dizajnira, razvija i trenira svoje buduće verzije uz sve manje ljudskog učešća. Iako kompanija naglašava da taj prag još nije dostignut, smatra da bi mogao stići mnogo brže nego što su institucije i društvo spremni da prihvate.
Zbog toga Anthropic poziva vlade i vodeće AI kompanije da unaprijed uspostave mehanizme zaštite, uključujući mogućnost koordinisanog i provjerljivog usporavanja ili privremene obustave razvoja najnaprednijih AI sistema ukoliko procijene da rizici postaju preveliki.
Kompanija ne traži trenutno zaustavljanje razvoja vještačke inteligencije, već smatra da bi svijet trebalo da ima spreman plan za slučaj da AI dostigne nivo na kojem bi mogao samostalno ubrzavati vlastiti razvoj. Takva odluka, ističu, imala bi smisla samo ukoliko bi je istovremeno primijenile sve vodeće laboratorije koje razvijaju najnaprednije modele.
Ova inicijativa izazvala je podijeljene reakcije u tehnološkoj zajednici. Dok jedni smatraju da je riječ o odgovornom pristupu i pravovremenom planiranju potencijalnih rizika, drugi upozoravaju da bi usporavanje razvoja moglo uticati na konkurenciju među kompanijama koje se trenutno nalaze u intenzivnoj trci za razvoj sve moćnijih AI sistema.
Rasprava dolazi u trenutku kada vještačka inteligencija već preuzima sve složenije zadatke u programiranju, istraživanju i inženjeringu. Upravo zbog toga stručnjaci sve češće postavljaju pitanje ne koliko brzo AI napreduje, već da li će društvo uspjeti da uspostavi dovoljno efikasne mehanizme kontrole prije nego što tehnologija dostigne naredni nivo razvoja.
Ako se predviđanja Anthropica pokažu tačnim, budućnost razvoja vještačke inteligencije mogla bi izgledati potpuno drugačije od svega što danas poznajemo, prvi put u istoriji tehnologija ne bi samo pomagala ljudima da stvaraju nove sisteme, već bi učestvovala u stvaranju vlastitih nasljednika.
