Jošua Benđio, profesor Univerziteta u Montrealu i jedan od “kumova veštačke inteligencije”, upozorava da trenutni razvoj AI sistema može dovesti do scenarija u kojem će mašine postati pametnije od ljudi i staviti sopstvene ciljeve ispred ljudskog opstanka.
Benđio, osnivač istraživačkog instituta Mila u Kvebeku i nedavno pokrenute neprofitne organizacije LawZero, u razgovoru za Wall Street Journal poručuje da svijet ide u pogrešnom smjeru. Smatra da bi previše napredni AI modeli mogli postati konkurenti čovječanstvu, sa opasnim posljedicama.
– Ako napravimo mašine koje su mnogo pametnije od nas i imaju sopstvene ciljeve očuvanja, to je opasno. To je kao da stvaramo konkurenta čovječanstvu koji je pametniji od nas – rekao je Benđio za WSJ.
On naglašava da rizici nisu ograničeni samo na apokaliptične scenarije poput onih iz filma “Terminator”.
Prema njegovim riječima, opasnost može biti i suptilnija, AI može da manipuliše javnim mnjenjem, širi dezinformacije ili čak pomogne ljudima sa zlim namjerama da razviju opasne tehnologije.
Ignorisana upozorenja stručnjaka
Benđio podsjeća da su on i stotine drugih stručnjaka još 2023. godine pozivali na moratorijum u razvoju vještačke inteligencije kako bi se postavili bezbjednosni i etički standardi, ali je industrija nastavila ubrzano da ulaže milijarde u razvoj novih modela.
Posebno ga brine to što su AI sistemi obučavani da imitiraju ljude, a samim tim i njihove mane, uključujući laganje i obmanjivanje. Eksperimenti su, kaže, pokazali da u situacijama kada AI mora da bira između sopstvenih ciljeva i ljudskog života, algoritam može da izabere da sačuva ciljeve, čak i po cijenu čovjekove smrti.
– Kada govorimo o katastrofalnim događajima poput istrebljenja čovječanstva ili uništavanja demokratija, čak i jedan odsto vjerovatnoće da se tako nešto dogodi nije prihvatljiv – upozorio je Benđio.
On smatra da je krajnje vrijeme da se uvedu jasni bezbjednosni standardi i ograničenja razvoja AI tehnologije kako bi se izbjegle posljedice koje bi mogle biti nenadoknadive.
Telegraf.rs
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.