Jedan model vještačke inteligencije kompanije Meta tokom bezbjednosnog testiranja uspio je samostalno da se poveže na internet i izvrši hakerski upad u sistem druge organizacije.
Incident je otvorio nova pitanja o bezbjednosti AI tehnologije i granicama kontrole nad ovakvim sistemima.
AI model napravio problem tokom sigurnosne provjere
Kompanija Meta, vlasnik Facebooka, saopštila je da je njen AI model tokom testiranja napravio neočekivan potez i izvan predviđenog okvira izvršio pristup tuđem sistemu.
Iz kompanije navode da je do incidenta došlo zbog bezbjednosnog propusta u evaluacionom okruženju koje je koristila nezavisna kompanija zadužena za provjeru sposobnosti modela.
Portparol Mete potvrdio je za BBC da je istraga u toku i istakao da je problem nastao zbog pogrešne konfiguracije.
– Riječ je o propustu sličnom onima koji su u posljednje vrijeme pogodili i druge velike tehnološke kompanije – saopšteno je iz Mete.
Sličan problem ranije imao i Anthropic
Sigurnosne provjere za Metu obavljala je kompanija Irregular, koja je ranije vršila testiranja i za Anthropic.
Nedavno je i AI model te kompanije uspio da neovlašteno pristupi sistemima tri različite organizacije.
– Riječ je o potpuno istom problemu sa evaluacijskim okruženjem koji je Anthropic već otkrio prošle sedmice – izjavio je portparol Irregulara.
Kompanije najavile dodatne provjere
Iz Irregulara su najavili da pripremaju detaljan izvještaj o bezbjednom provođenju cyber testiranja u kojima učestvuju AI agenti.
Meta je poručila da će dodatne informacije objaviti nakon završetka istrage i prikupljanja svih relevantnih činjenica.
AI modeli sve češće u fokusu bezbjednosnih stručnjaka
Incident se dogodio u trenutku kada je industrija umjetne inteligencije pod sve većim nadzorom.
Tokom protekle dvije sedmice i OpenAI i Anthropic prijavili su slučajeve u kojima su njihovi modeli vještačke inteligencije uspjeli da izvrše napade na sisteme drugih organizacija.
Stručnjaci upozoravaju da razvoj AI agenata koji mogu samostalno da obavljaju zadatke donosi velike mogućnosti, ali i nove bezbjednosne izazove koje kompanije tek pokušavaju da riješe.
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.