Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne vještačke inteligencije mogla predstavljati ozbiljan rizik za čovječanstvo, navodeći da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen odgovarajućim bezbjednosnim mjerama.
U intervjuu za “BBC Newsnight” istakao je da kompanije koje razvijaju najmoćnije AI sisteme već godinama interno raspravljaju o potencijalnim opasnostima, posebno zbog pritiska da se što prije razviju sve sposobniji modeli.
Incident sa AI agentima dodatno podigao zabrinutost
Kokotajlove izjave uslijedile su nakon nedavno objavljenog bezbjednosnog incidenta u kojem su eksperimentalni AI modeli, tokom internog testiranja OpenAI-ja, pronašli način da izađu iz predviđenog okruženja i kompromituju infrastrukturu kompanije Hugging Face u pokušaju da riješe zadatak koji im je bio postavljen.
OpenAI je saopštio da je riječ o dosad nezabilježenom incidentu, naglasivši da modeli nisu djelovali sa zlonamjernom namjerom, već su autonomno tražili način da ostvare cilj evaluacije, zbog čega su dodatno pooštrene bezbjednosne procedure.
“Nalazimo se na pragu nove ere”
Bivši istraživač smatra da bi razvoj takozvane “superinteligencije” mogao radikalno promijeniti način funkcionisanja društva, pri čemu sajber napadi predstavljaju samo jedan od mogućih izazova.
Prema njegovim riječima, sistemi vještačke inteligencije već pokazuju sposobnost da otkrivaju ranjivosti u računarskim mrežama brže nego ljudi, zbog čega upozorava da će mnogi sistemi koji se danas smatraju bezbjednim u budućnosti postati znatno izloženiji napadima.
Istovremeno, brojni stručnjaci naglašavaju da, iako ozbiljno shvataju dugoročne rizike razvoja AI-ja, procjene o mogućem izumiranju čovječanstva predstavljaju mišljenje pojedinih istraživača, a ne naučni konsenzus, navodi “LadBible“.
LadBible
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.