Kineska tehnološka kompanija Moonshot AI uvela je ograničenja u sajber-bezbjednosnim sposobnostima svog novog modela vještačke inteligencije Kimi K3.1 Pro, nastojeći da smanji rizik od zloupotrebe tehnologije za automatizovane hakerske napade.
Kompanija sa sjedištem u Pekingu predstavila je model kao svoj najnapredniji sistem sa otvorenim težinama, a odluku o ograničavanju određenih funkcija obrazložila je sve većom zabrinutošću zbog mogućnosti da AI unaprijedi ofanzivne sajber aktivnosti.
Prema izvještaju Rojtersa, tokom razvoja modela iz podataka za obuku i procesa dodatnog učenja uklonjeni su sadržaji povezani sa sajber domenom, dok su zadržane opšte sposobnosti programiranja.
Vještačka inteligencija otvara nove bezbjednosne izazove
Napredni AI modeli mogu da pišu programski kod, koriste softverske alate i izvršavaju složene zadatke u više koraka. Takve mogućnosti mogu biti korisne za otkrivanje i otklanjanje bezbjednosnih propusta, ali istovremeno postoji rizik da budu iskorišćene za automatizaciju dijelova sajber napada.
Zbog toga vlade, tehnološke kompanije i stručnjaci za informacionu bezbjednost sve više pažnje posvećuju kontroli sposobnosti modela koji bi mogli olakšati izvođenje sofisticiranih napada.
Kina razmatra stroža pravila za AI tehnologiju
Pored poteza kompanije Moonshot AI, Kina je predložila i nova ograničenja izvoza pojedinih tehnologija povezanih sa vještačkom inteligencijom.
Predložene mjere obuhvataju tehnologije koje bi mogle omogućiti stvaranje ili izmjenu zlonamjernog softvera, kao i alate za automatsko otkrivanje bezbjednosnih ranjivosti. Prema nacrtu, cilj je da se smanji mogućnost zloupotrebe takvih sistema protiv kritične infrastrukture, državnih institucija i odbrambenih sistema.
Prijedlog je, prema dostupnim navodima, upućen na javnu raspravu.
Ovi potezi ukazuju na rastući značaj pitanja kako razvijati napredne AI sisteme, a istovremeno ograničiti rizik da njihove sposobnosti budu iskorišćene za sajber kriminal i ugrožavanje ključnih sistema.
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.