Donald Tramp odbacio je pozive stručnjaka i čelnika tehnoloških kompanija da uspore razvoj sve moćnijih sistema vještačke inteligencije, poručivši da je za SAD ključno da u trci sa Kinom zadrže prednost.
„Ko god osvoji AI, osvaja sve“
Tramp je na društvenoj mreži Truth Social reagovao na upozorenja stručnjaka koji traže oprezniji razvoj naprednih AI sistema.
Američki predsjednik poručio je da vještačkoj inteligenciji nisu potrebna dodatna ograničenja, već snažno političko vođstvo, dok je posebno napao pojedince iz tehnološke industrije koji upozoravaju na rizike ubrzanog razvoja.
– Jedina kontrola ili „ograničenja“ koja su vještačkoj inteligenciji potrebna jeste jak i pametan (visok IQ!) predsjednik, a SAD to imaju, i to u velikoj mjeri! Moja administracija spriječila je AI „ljude“ da rade loše ili potencijalno loše „stvari“, poput Darija (Anthropic!), koji se sada pretvara da je „savršeni mali anđeo“, i nastavićemo to raditi!
Već imamo ogromna krivična i regulatorna ovlaštenja nad ovim kompanijama! U toku je bolesna zavjera protiv vještačke inteligencije i podatkovnih centara, a jedini kome je zbog toga drago jeste Kina.
Ko god osvoji AI, osvaja sve! Vodimo ispred Kine i svih ostalih i tako ćemo i nastaviti. Teoretičari zavjere, izdajnici, veleizdajnici i oni koji odaju informacije, čuvajte se! – napisao je Tramp.
Amodei traži da se „prikoči“
Trampove poruke stigle su nakon što su čelnici vodećih kompanija za razvoj vještačke inteligencije javno upozorili na tempo kojim se razvijaju sve moćniji sistemi.
Izvršni direktor Anthropa Darijo Amodei napisao je da bi kompanije trebalo svjesno da uspore unapređivanje svojih modela jer razvoj nadmašuje sposobnost istraživača da ih razumiju i kontrolišu.
– Moramo usporiti tempo kojim unapređujemo sposobnosti modela vještačke inteligencije – napisao je Amodei.
On smatra da bi i uz usporavanje napredak ostao brz, ali bi istraživači dobili dragocjeno vrijeme za razvoj zaštitnih mehanizama i bolje razumijevanje sistema.
Altman stao uz Amodeija
Nekoliko sati nakon Amodeijevog apela, njegov stav podržao je i izvršni direktor OpenAI-ja Sem Altman.
– Slažem se s Darijom da moramo kontrolisati tempo napretka na samoj granici mogućnosti – napisao je Altman na platformi X.
Dodao je da je pitanje tempa razvoja posljednjih sedmica bilo jedna od glavnih tema razgovora u OpenAI-ju.
Altman je i ranije pozivao na oprez. U objavi od 18. avgusta naveo je da je OpenAI privremeno obustavio obuku određenih naprednih modela kako bi provjerio da li ispunjavaju bezbjednosne standarde u skladu sa rastom njihovih sposobnosti.
Strah od trke bez kočnica
Amodeijev apel uslijedio je nakon što su istraživači iz Anthropa, OpenAI-ja i Googlea javno izrazili zabrinutost zbog ubrzanja razvoja i pritiska konkurencije.
Amodei je kao posebno važne naveo dvije pojave. Prva je sve veća sposobnost AI sistema da učestvuju u kreiranju naprednijih sistema, a druga incident iz jula kada su autonomni AI agenti, pokretani modelom OpenAI-ja, hakovali sisteme kompanije Hugging Face.
– Lako je zanemariti ovaj incident jer niko nije povrijeđen, a ekonomska šteta bila je minimalna, ali, po mom mišljenju, roj koji bi posjedovao veće sposobnosti, a istovremeno pokazivao sličan nivo neusklađenosti, mogao je izazvati katastrofalnu štetu – napisao je Amodei.
„Kockanje našim životima“
Istraživač bezbjednosti u Anthropic-u Džejkob Kokson, koji je ove sedmice podnio ostavku, rekao je kolegama da razvoj superinteligentne vještačke inteligencije vidi kao „kockanje našim životima“.
– Kada ste unutar sistema, jednostavno ste zarobljeni u utrci – rekao je Kokson, opisujući konkurentski pritisak kojem su izložene kompanije koje razvijaju AI.
Prema njegovim riječima, privatne kompanije uključene u trku ne dozvoljavaju istraživačima da učine dovoljno na polju bezbjednosti, zbog čega postoji rizik da se čovječanstvo nesvjesno približava katastrofalnom scenariju.
Plan koji ne traži zaustavljanje AI razvoja
Amodei ne predlaže potpuno zaustavljanje razvoja, već kontrolisanje tempa na granici razvoja.
Njegov plan predviđa tri ključna koraka, uključujući angažovanje nezavisnih procjenjivača unutar vodećih AI kompanija. Oni bi imali pristup modelima, internim alatima i istraživačima kako bi mogli da procjenjuju rizike.
Zalaže se i za sličan oblik nadzora u drugim vodećim američkim kompanijama, uz podršku saveznih propisa i, na kraju, međunarodnu koordinaciju.
Procjena je da bi usporavanje moglo istraživačima donijeti još godinu ili dvije, što bi, prema Amodeiju, moglo biti presudno za razvoj zaštitnih mehanizama i provjeru da li se sve sposobnijim sistemima zaista može pouzdano upravljati.
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.