Dogovor SAD i Kine o kanalu za prijavljivanje incidenata sa veštačkom inteligencijom mali je korak u pravom smeru, ali neće funkcionisati sve dok obe zemlje ne uvedu domaća pravila koja će njihove vodeće kompanije obavezati da prijavljuju bezbednosne incidente i opasne sposobnosti svojih modela.
VAŠINGTON – Najkonkretniji ishod samita prošlog meseca između američkog predsednika Donalda Trampa i kineskog predsednika Si Đinpinga bio je naizgled postignut dogovor o uspostavljanju kanala između SAD i Kine za prijavljivanje incidenata sa veštačkom inteligencijom (VI). Ali čak i ako se neka od dve vlade pokaže spremnom da koristi ovu direktnu liniju ili počne da šalje podatke preko Pacifika, najpre moraju da reše jedno hitnije pitanje: američke i kineske kompanije koje razvijaju najnaprednije VI modele trenutno ne pružaju informacije koje bi im bile potrebne.
U SAD nijedan savezni zakon ili propis ne obavezuje izričito VI kompanije da vladi prijavljuju bezbednosne incidente i opasne sposobnosti. Iako su neke savezne države usvojile zakone o prijavljivanju incidenata, savezno zakonodavstvo – poput Zakona o prijavljivanju incidenata sa VI (AI Incident Reporting Act) i Zakona FRONTIER – zaglavilo se u Kongresu. Industrija i dalje u velikoj meri sama sebe reguliše.
Osim toga, iako Sporazum Bele kuće o superinteligenciji (White House Accord on Super Intelligence) obećava da će identifikovati i otklanjati bezbednosne probleme, on ne nalaže obaveštavanje regulatora niti postavlja rokove za prijavljivanje. Posebno telo Trampove administracije, Super Intelligence Force, razvija vladine mehanizme za prijavljivanje proboja, hakerskih napada i drugih incidenata sa VI. Ali ono nije regulator i njegove preporuke bi morale da se sprovedu kroz mere koje se mogu nametnuti.
Postoji i ozbiljan nedostatak sredstava za testiranje i nadzor od strane savezne vlade. Prema Izveštaju AI Index za 2026. godinu Univerziteta Stanford, američki razvijači su prošle godine objavili 59 značajnih VI modela, a britanski samo jedan. Ipak, glavna američka savezna agencija za testiranje VI, Centar za unapređenje inovacija i standarda za superinteligenciju (CAISSI) pri Ministarstvu trgovine, ima godišnji budžet od samo 15 miliona dolara, dok Institut za bezbednost VI (AISI) Ujedinjenog Kraljevstva ima budžet od skoro 90 miliona dolara.
Izvor: Envato
S obzirom na to da Sporazum Bele kuće, kako se čini, predviđa da najnaprednije laboratorije same obavljaju najveći deo bezbednosnog testiranja, ostaje da se vidi kakvu bi ulogu vlada imala u potvrđivanju takvog testiranja i da li bi neko vladino telo imalo pristup dovoljnoj računarskoj snazi da sprovodi sopstveno testiranje.
Za razliku od SAD, kineska vlada se ne suočava sa političkim blokadama i već je izgradila značajnu regulatornu strukturu, pri čemu je Uprava za sajber-prostor Kine (CAC) nedavno pozvala na kontrole ponašanja, sledljivost modela, bezbednosno testiranje i zaštitu od ranjivosti sistema i gubitka kontrole. Ali još uvek ne postoji kineski ekvivalent CAISSI-ja – specijalizovano, centralizovano telo za bezbednost VI sa jasnim mandatom. Vlada ima velika ovlašćenja nad tehnološkim kompanijama, ali je nadzor raspodeljen između CAC-a, Ministarstva industrije i informacionih tehnologija, Nacionalne komisije za razvoj i reforme (NDRC), Ministarstva nauke i tehnologije i drugih agencija.
Procena rizika najnaprednijih VI modela zahteva tehničku stručnost i koordinaciju između svih relevantnih kineskih vladinih resora, uključujući i bezbednosne službe. Ali nekim kineskim vladinim agencijama nedostaje dovoljan tehnički kapacitet, a mnogi ljudi sa najdubljom tehničkom stručnošću rade u privatnim istraživačkim institutima bez ovlašćenja da zahtevaju pristup najnaprednijim modelima neke kompanije, a kamoli da pregledaju njene interne zapise ili da je nateraju da napravi promene.
Za sada je vlada poslala službenike CAC-a i NDRC-a u kineske laboratorije da razgovaraju o mogućem ograničavanju objavljivanja najnaprednijih modela. Ali vlasti će na kraju morati da propišu obavezne interne timove za bezbednosno testiranje, pristup dovoljnoj računarskoj snazi i testiranje najnaprednijih modela pre njihovog objavljivanja.
Budući da je sledeći kinesko-američki dijalog o bezbednosti VI zakazan za novembar, SAD i Kina treba da se usredsrede na ono što bi povećalo verovatnoću da kanal za prijavljivanje incidenata funkcioniše. Sa svoje strane, američkoj vladi je potrebna transparentna i obavezujuća politika za testiranje najnaprednijih modela. Bela kuća bi trebalo ili da objavi svoj sadašnji okvir i učini ga obavezujućim, ili da sarađuje sa Kongresom na usvajanju zakona poput dvostranačkog Zakona FRONTIER. Savezna vlada takođe treba da postavi pravila za spoljne revizije VI kompanija, dajući revizorima jasan mandat, obaveze izveštavanja i stvarnu nezavisnost (tako da revizore bira i plaća industrijsko telo ili vladina agencija).
Istovremeno, Trampova administracija treba da bude proaktivnija u praćenju toga da li kompanije poštuju pravila. Trebalo bi da iskoristi Super Intelligence Force da preispita sadašnji, manjkav proces objavljivanja najnaprednijih modela, razmotri šta da radi sa sve sposobnijim modelima otvorenih težina (open-weight) i počne da se kreće ka mehanizmu za odgovor na incidente koji će imati stvarnu moć.
Na kineskoj strani, da bi kanal za prijavljivanje proradio, trebalo bi zatvoriti jaz između ovlašćenja i stručnosti. CAC bi mogao da definiše bezbednosna očekivanja i način prijavljivanja; tehnička tela bi mogla da razvijaju i potvrđuju evaluacije; NDRC i druge industrijske agencije mogle bi da procenjuju uticaj na investicije i širenje tehnologije; a Ministarstvo trgovine ostalo bi relevantno za pravila o transferu tehnologije i izvozu. S obzirom na to da SAD ovlašćuju Super Intelligence Force da sprovede temeljan pregled uloge američke vlade, Kina bi trebalo da razmotri nešto slično.
Kina takođe treba da reši nedostatak kapaciteta za evaluaciju i pristupa dovoljnoj računarskoj snazi kod kompanija, evaluatora i vladinih tela. Brzi napredak kineskih modela otvorenih težina čini ovo posebno važnim, jer kada se težine modela objave, razvijači imaju mnogo manji uvid u to kako se njihovi sistemi koriste ili zloupotrebljavaju.
Novi okvir Z.ai-Concordia mogući je obrazac. On deli modele u tri kategorije: modeli u zelenoj zoni, koji su bezbedni za potpuno objavljivanje; modeli u žutoj zoni, koji zahtevaju postepeno objavljivanje, strukturisan pristup za proverene istraživače ili hostovanje samo preko API-ja dok se težine evaluiraju; i objavljivanja u crvenoj zoni, koja se suspenduju do okončanja pregleda.
Bezbednost VI je globalni izazov. Suočavanje sa njim zavisi od bliske i sve veće saradnje između dve vodeće sile u oblasti VI, a kanal za prijavljivanje incidenata sa VI samo je mali korak u pravom smeru. Vladama SAD i Kine trebaće mnogo vremena da postignu obavezujuće sporazume koji se mogu proveriti. Ne smeju sebi da dozvole da ih zaustavi neusvajanje domaćih reformi.
Autorska prava: Project Syndicate, 2026. www.project-syndicate.org
Akademski blog ResPublica Instituta za komunikacijske studije sarađuje s Project Syndicate, globalnom veb-platformom koja objavljuje analize vodećih svetskih mislilaca i inovatora iz oblasti ekonomije, politike, zdravstva, tehnologije i kulture. ResPublica bira tekstove s njihove platforme i ponovo ih objavljuje.
Napomena: Ovaj tekst je preveden s engleskog jezika uz pomoć veštačke inteligencije.
