Po OpenAI in Anthropicu tudi Metina umetna inteligenca izvedla nepooblaščen vdor
Iz ameriškega tehnološkega velikana Meta so sporočili, da je eden izmed njihovih modelov umetne inteligence izkoristil varnostno ranljivost in nepooblaščeno vdrl v računalnik drugega podjetja. Modelu je bil namreč zaradi napačne konfiguracije med testiranjem omogočen dostop do interneta, poroča nemška tiskovna agencija dpa.
Fotografija je simbolična.
Foto: StaSAN FRANCISCO > Pri Meti, ki ima v lasti družbeni omrežji Facebook in Instagram, niso razkrili imena podjetja, v katerega sisteme je bil izveden nepooblaščen dostop. V sredini izjavi, ki jo povzema dpa, je navedeno, da je podjetje izvedelo za incident, potem ko ga je o tem obvestil partner, ki izvaja testiranje.
Podoben primer se je nedavno zgodil tudi podjetjema OpenAI in Anthropic, katerih modeli so prav tako med testiranji nepooblaščeno dostopali do omrežij treh podjetij.
Noben od teh incidentov ni povzročil škode, vendar so še dodatno okrepili zaskrbljenost glede morebitne uporabe umetne inteligence v kibernetskih napadih.
Več kot 30 tehnoloških podjetij je v tej luči konec julija ustanovilo zavezništvo za varno umetno inteligenco, ki ga vodi razvijalec čipov Nvidia. V zavezništvu so med drugim izpostavili pomen odprtokodnih orodij za zagotavljanje varnosti. Podjetij OpenAI, Anthropic in Meta sicer nista med člani zavezništva.
Strokovnjaki ob tovrstnih incidentih izpostavljajo pomen strogo nadzorovanega testnega okolja z ustreznim upravljanjem tveganj. Tudi v vladnem uradu za informacijsko varnost in nacionalnem odzivnem centru za kibernetsko varnost SI-CERT so nedavno v skupnem odzivu za STA poudarili, da je testiranje naprednih modelov umetne inteligence nujno potrebno. Ob tem je po njihovih besedah bistveno zagotoviti, da se pri testiranju upošteva strogo nadzorovano testno okolje brez vpliva na dejanske informacijske sisteme z ustreznim upravljanjem tveganj ter pod človeškim in pravnim nadzorom.
Ob tem so spomnili, da akt EU o umetni inteligenci, del katerega je začel veljati v nedeljo, že določa obveznosti glede ocenjevanja naprednih modelov umetne inteligence in sprejemanja ukrepov za obvladovanje njihovih tveganj. Evropska komisija pa v okviru novega akcijskega načrta za umetno inteligenco in kibernetsko varnost predvideva tudi vzpostavitev evropskih zmogljivosti za neodvisno ocenjevanje naprednih modelov ter varnih okolij za njihovo testiranje.