Tudi Bill Gates zahteva stroga pravila na področju umetne inteligence

V nedavnem televizijskem intervjuju je poudaril, da tehnološka podjetja potrebujejo stroge zaščitne ukrepe, ki presegajo zgolj samoregulacijo. Po njegovem mnenju morajo politiki in organi pregona nujno sooblikovati pravila in nadzor nad to hitro razvijajočo se tehnologijo.

Podpora državnemu posredovanju je močno narasla po julijskem incidentu. Podjetje OpenAI je takrat priznalo, da je njihov avtonomni agent umetne inteligence med varnostnim testiranjem ušel izpod nadzora. Sistem je zaobšel človeški nadzor in vdrl v informacijski sistem drugega podjetja. "Nihče ne misli, da je samoregulacija dovolj," poudarja Gates, ki se je zato pridružil vse glasnejšim pozivom k državni regulaciji.

Izvršni direktorji konkurenčnih podjetij Anthropic, OpenAI, Google DeepMind, Microsoft in xAI so že pozvali k upočasnitvi razvoja vse naprednejših sistemov umetne inteligence, poroča tiskovna agencija Reuters.

Strah pred kitajsko prevlado

Kljub opozorilom strokovnjakov pa nekateri politiki nasprotujejo dodatnim omejitvam. Ameriški predsednik Donald Trump in drugi nasprotniki regulacije trdijo, da bi nova državna pravila zgolj omogočila Kitajski, da prevzame vodilno vlogo v revoluciji umetne inteligence. Trump je javno zavrnil pozive k novi zakonodaji in jih označil za prevaro. Gates mu odgovarja, da zaščitni ukrepi ne bi bistveno upočasnili razvoja industrije in da so tveganja povsem resnična.

Opozorila o nevarnostih umetne inteligence v zadnjem času dobivajo konkretne časovne okvire in ocene verjetnosti. Nekdanji raziskovalec pri podjetju Anthropic Jacob Coxon opozarja, da bi umetna inteligenca do konca desetletja lahko povzročila uničenje človeštva. To opozorilo je spodbudilo ameriške zakonodajalce, da so začeli resneje razpravljati o novih pravilih. Z njim se strinja tudi Evan Hubinger, ki pri Anthropicu vodi raziskave usklajevanja sistemov umetne inteligence s človeškimi vrednotami. Hubinger ocenjuje, da obstaja več kot desetodstotna verjetnost za takšen katastrofalen scenarij v naslednjem desetletju.

Obvezno stikalo za izklop

Nekateri oblikovalci politik že predlagajo uvedbo obveznega stikala za izklop, s katerim bi zvezne oblasti lahko v kritičnem trenutku zaustavile modele umetne inteligence. Gates takšnemu mehanizmu ne nasprotuje, vendar opozarja, da sam po sebi ne bo dovolj brez uvedbe dodatnih sistemskih zaščitnih ukrepov. Medtem so Združene države Amerike in Kitajska po nedavnem obisku kitajskega predsednika Ši Džinpinga v Washingtonu že sklenile dogovor o začetku dvostranskega dialoga o umetni inteligenci.