Crna Gora nespremna da se uhvati u koštac sa vještačkom inteligencijom u medijima
Krajem prošle godine, tadašnji direktor podgoričkog Doma zdravlja Danilo Jokić bio je meta prevaranata na Fejsbuku, koji su uz pomoć dipfejka (deepfake), odnosno vještačke inteligencije (AI tehnologija), na sada nedostupnoj stranici Heart Wellness zloupotrijebili njegovu ličnost da bi prodavali sumnjive medicinske preparate za čišćenje krvnih sudova i liječenje reume. To se poslije proširilo kao vijest. Jokić je ovu prevaru prijavio policiji, odnosno inspektorima za sajber kriminal, i tada je saopštio da su najviše oštećeni građani koji su možda nasjeli na prevaru. Ovo je tek jedan slučaj zloupotrebe vještačke inteligencije u Crnoj Gori koji ukazuje na posljedice koje može izazvati zakonski neregulisano pitanje korišćenja novih tehnologija. AI tehnologije otvaraju i razne etičke dileme, prvenstveno u pogledu načina na koji se upotrebljavaju u oblikovanju medijskih sadržaja.
Ipak, ovo pitanje, iako u svijetu sve aktuelnije, u Crnoj Gori još nije prepoznato kao važno. Već je duže vrijeme na čekanju set medijskih zakona, a dosadašnji pripremljeni nacrti ne tretiraju na pravi način brojne aktuelne izazove u medijskom okruženju, kakav su, recimo, AI tehnologije. Crna Gora je krajem 2023. usvojila Medijsku strategiju za period od 2023. do 2027. godine, ali se ni u njoj ne precizira kako se nositi sa ovim fenomenom.
,,Dok se na evropskom nivou uveliko govori o vještačkoj inteligenciji i njenom uticaju na rad u medijima, Crna Gora ne samo da nije ni evidentirala taj mogući problem, nego mi još nijesmo riješili ni pitanje društvenih mreža i regulaciju portala. Iako je pohvalno što smo od prošle godine dobili Medijsku strategiju, dovoljno je reći da u tom dokumentu, koji mapira sve izazove za medijsku zajednicu, o vještačkoj inteligenciji nema ni riječi“, kažu za Res Publica iz Sindikata medija Crne Gore (SMCG).
Savjet Evrope je krajem prošle godine donio Smjernice o odgovornom korišćenju sistema vještačke inteligencije u novinarstvu koje adresiraju etičke dileme i obavezu obavještenja korisnika da se u radu koriste takvi sistemi. U tom dokumentu se, naravno, ne osporava upotreba AI tehnologija, jer, kako se navodi, “takve tehnologije u skladu sa profesionalnom etikom i ljudskim pravima mogu doprinijeti otpornosti novinarstva u digitalnom dobu“.
I na nivou Evropske unije (EU) nedavno je usvojen Zakon o vještačkoj inteligenciji, koji, iako nije striktno vezan za medije, doprinosi regulaciji ove oblasti. U EU borbu protiv lažnih vijesti shvataju sve ozbiljnije, pa je tako evropska zajednica nedavno tehnološkim gigantima kao što su Google i Meta uputila zahtjev da jasno obilježe sav sadržaj koji je generisan vještačkom inteligencijom – bilo da se radi o tekstovima, fotografijama ili bilo kojoj drugoj vrsti medijskog materijala.
I neke države, poput SAD-a, Japana, Velike Britanije i Kine izradile su smjernice, propise i zakone kojima regulišu upotrebu AI tehnologija, a Crna Gora je od takvog poteza, čini se, još daleko.
Do objavljivanja ovog teksta, ResPublica nije uspjela da dobije odgovore na brojna pitanja od Ministarstva kulture i medija, kao ni od sektora Uprave policije koji se bavi sajber kriminalom.
Samo jedna crnogorska redakcija ima sistem vještačke inteligencije koji joj pomaže u svakodnevnom radu
U Crnoj Gori je do sada samo jedna redakcija uvela sistem vještačke inteligencije koji joj pomaže u svakodnevnom radu. Portal DAN od sredine 2023. godine ima virtuelne voditeljke koje čitaju informacije koje priprema redakcija tog portala. Voditeljke se zovu Ana, Sara i Mara AI, a to je prvi takav projekat u Crnoj Gori. Funkcioniše tako što prvo urednik napravi izbor vijesti i fotografija, a potom vještačka inteligencija te vijesti obradi. Kroz TTS sistem se od teksta proizvede audio, a onda se taj audio ubaci u sistem koji pokreće virtuelnu voditeljku, na osnovu čega se dalje stvaraju njeni pokreti. Na kraju sve provjeravaju urednik, novinar i obučeni operater.
Iz Sindikata medija Crne Gore zagovaraju da upotreba tih sistema uvijek bude odgovorna. ,,Ona treba da bude podstaknuta stvarnom željom za inovacijama, a ne pukim preduzetničkim ciljevima za smanjenjem radne snage. Takođe, ono što je veoma važno jeste da redakcije rade na jačanju medijske pismenosti zaposlenih kako bi oni prepoznali informacione poremećaje kreirane AI sistemima i tako pozicionirali kredibilne medije kao izvore pouzdanih informacija“, navode iz SMCG-a.
Vještačka inteligencija ima dualnu prirodu. S jedne strane, navode autori djela “Artificial intelligence and communication: A Human–Machine Communication research agenda” Andrea Guzman i Set Luis, AI tehnologije mogu poboljšati ekonomiju medija, personalizovani sadržaj, ali i proizvodne procese. Recimo, mogu izrađivati transkript i infografike ili filtrirati komentare koji sadrže nedozvoljen govor na portalima, što je nešto sa čim se mediji u Crnoj Gori u velikoj mjeri ne snalaze.
S druge strane, u tekstu “The Impact of Artificial Intelligence on Media, Journalists, and Audiences” na otvorenoj naučnoj platformi Frontiers, upozorava se da vještačka inteligencija ima višeslojan uticaj na medije, novinare, publiku i medijske sadržaje i da može dodatno uticati na ranjivost medija i njihovu zavisnost od velikih tehnoloških platformi. Za pojedine stvari, kao što je predstavljanje šireg konteksta ili provjeravanje činjenica, čovjek je neophodan.
U svijetu medija sve su popularniji i ChatGPT, kao i Sora. Radi se o AI tehnologijama koje je od novembra 2022. razvio OpenAI, američka laboratorija gdje se istražuje vještačka inteligencija. ChatGPT je robot za ćaskanje koji može, između ostalog, pisati i novinarske tekstove na zadatu temu. Sora može da proizvede složene video zapise dužine do jednog minuta. “Model razumije ne samo šta je korisnik tražio, već i kako te stvari postoje u fizičkom svijetu”, navodi se na oficijalnom sajtu.
I koliko god da ove tehnologije mogu biti korisne, treba ih koristiti oprezno, jer AI algoritmi lako mogu biti zloupotrijebljeni za širenje lažnih vijesti, dezinformacija i drugih nedozvoljenih sadržaja.
Izvor: blink.ba
O tome najbolje govori slučaj iz 2022. kada je na informativnom sajtu MSN Microsoft-a, koji je prethodno otpustio na desetine novinara i urednika i zamijenio ih AI algoritmom, objavljena gomila lažnih vijesti. Ispostavilo se da je MSN-ov algoritam naročito simpatisao Exemplore, komični sajt gdje se uglavnom nalaze vijesti o paranormalnom i raznim teorijama zavjere.
Dipfejk dileme
Jedna od trenutno najpoznatijih AI tehnologija koja se nerijetko koristi za širenje lažnih sadržaja je dipfejk. Radi se o lažnim video zapisima koje stvara vještačka inteligencija tako što zamijeni ili digitalno izmijeni nečiji lik i glas.
,,Dipfejk nekada može biti koristan, recimo kada se upotrebljava kako bi se ‘oživjele' neke istorijske ličnosti ili izumrla živa bića, u svrhu naučnih zanimljivosti ili kada se koristi u privatne ili zabavne svrhe, pa tako zahvaljujući njemu možete vidjeti kako biste izgledali u svom omiljenom filmu. Ipak, kroz praksu se pokazuju i neke manjkavosti ove tehnologije, kao i etički problemi“, navodi za ResPublicu novinarka Jovana Damjanović.
Prema njenim riječima, dipfejk se ipak mnogostruko koristi za manipulaciju javnosti i kao takav može nekome upropastiti karijeru, privatni život, integritet i to trajno. ,,Pitanje je koliko su medijski radnici i radnice obučeni za raspoznavanje dipfejka, a tim i za obustavljanje njegovog širenja i instrumentalizacije medija, ali i koliko je generalno znanje o dipfejku i koliko je teško dokazati da se ne radi o stvarnoj osobi“, smatra Damjanović.
Nedavni slučaj širenja eksplicitnih fotografija muzičarke Tejlor Svift na društvenoj mreži X koje su zapravo dipfejk pokazao je i koliko svjetsko zakonodavstvo generalno zaostaje za razvojem AI tehnologija. Njene fotografije, iako su skinute sa X vrlo brzo, vidjeli su i dalje proširili milioni ljudi.
Dipfejk se, inače, često koristi da bi se kreirale nečije pornografske fotografije, a to ne samo da može biti traumatično za žrtvu, već se može koristiti i kao sredstvo za ucjenu.
Tako postoje i sajtovi na kojim se mogu pronaći dipfejk porno snimci slavnih ličnosti iz svijeta umjetnosti, sporta, politike… Jedan takav sajt je MrDeep Fakes, registrovan još 2018, koji mjesečno ima milione posjeta. Uglavnom su žrtve žene. Na ovom sajtu sadržaj je besplatan, a mogu se naručiti i video-snimci sa konkretnom poznatom ličnošću, a to se plaća u kriptovalutama. Na njemu čak postoje i uputstva za kreatore koje programe za kreiranje dipfejka da koriste.
Ovakvih slučajeva ima i na Balkanu. U februaru ove godine javnost u Srbiji je obaviještena da je nekoliko 13-godišnjih dječaka osumnjičeno da je koristilo AI aplikacije za kreiranje eksplicitnih slika svojih drugarica i učiteljica u jednoj beogradskoj školi i da su ih potom dijelili dalje.
Neke države imaju zakone koji im pomažu da se bore protiv zloupotreba dipfejka. Kalifornijski Zakon o dipfejku kriminalizovao je dipfejk pornografiju bez pristanka i dao žrtvama mogućnost tužbe. Ovaj zakon zabranjuje i upotrebu dipfejka tokom izbornih kampanja.
Zakon o onlajn bezbjednosti Ujedinjenog Kraljevstva iz 2023. proglasio je nezakonitim dijeljenje eksplicitnih slika ili video zapisa koji su digitalno izmanipulisani. Međutim, ovaj se zakon primjenjuje samo u okolnostima u kojima je namjerno ili bezobzirno izazvana uznemirenost žrtve, a ona može tražiti obeštećenje oslanjajući se na neke krivične zakone, što sve može biti jako komplikovano i teško dokazivo.
U EU je upotreba dipfejka regulisana Zakonom o vještačkoj inteligenciji. Iako ga direktno ne zabranjuje, zakon ga uređuje na način što kreatora obavezuje da naznači da se radi o dipfejk sadržaju.
Oko 40 odsto građana Crne Gore ne razumije termin “vještačka inteligencija”
Prema istraživanju Instituta Darmar iz 2023. “Kako građani/ke Crne Gore percipiraju vještačku inteligenciju”, šest od deset građana Crne Gore, odnosno oko 60 odsto, čulo je za termin “vještačka inteligencija”.
Međutim, samo šest odsto ispitanika veoma dobro razumije ovu tehnologiju, 25,6 odsto djelimično, 28,3 slabo, a čak 40,2 odsto uopšte ne razumije šta se pod time tačno misli.
Iz Instituta Darmar objašnjavaju da postoji niz faktora zbog čega su rezultati ovako raznoliki, a među njima su manjak obrazovanja, teško održavanje koraka sa najnovijim dostignućima u oblasti vještačke inteligencije, strah od tehnologije i nepoznatog…
U istraživanju “Slabi mehanizmi i zastarjeli etički kodeks – Samoregulacija medija u Crnoj Gori” Instituta za medije Crne Gore (IMCG) navodi se da nije zabilježena intenzivna rasprava o uticaju algoritama na rad medija i njihovu vidljivost na društvenim mrežama, kao i da nema rasprave o ulozi vještačke inteligencije u onlajn medijima. ,,Uočeni su samo pojedinačni tekstovi u kojima su crnogorski mediji izvještavali o slučajevima lažnih informacija koje su kreirane uz pomoć vještačke inteligencije, tekstovi u kojima su testirali ChatGPT, te pitali novinare što oni misle o uticaju vještačke inteligencije na njihov posao”, piše u toj publikaciji.
U Izvještaju EUROPOL-a iz 2023. upozorava se da bi, u roku od nekoliko godina, čak do 90 odsto onlajn sadržaja moglo biti sintetički generisano.
,,Nadamo se da ćemo i u Crnoj Gori konačno početi da se djelujemo u skladu sa trenutkom u kome živimo“, zaključuju iz SMCG-a.
Šta sve predviđa Zakon o vještačkoj inteligenciji EU
Zakon o vještačkoj inteligenciji Evropske unije (EU) je prvi sveobuhvatni pravni okvir o vještačkoj inteligenciji u svijetu. On garantuje bezbjednost i osnovna prava ljudi i preduzeća, a istovremeno podržava razvoj i primjenu vještačke inteligencije.
Zakon počiva na raznim pravilima za AI sisteme koji su zasnovani na određenom stepenu rizika, odnosno jednom od tri.
Velika većina AI sistema, kao što su sistemi za preporuke ili filteri za neželjenu poštu, spada u kategoriju minimalnog rizika i neće biti strogo kontrolisani.
Sistemi vještačke inteligencije koji su identifikovani kao visokorizični regulisani su u skladu sa striktnim zahtjevima, a primjeri takvih sistema su oni koji se koriste u medicine, sprovođenju zakona, pri kontroli granica…
Sistemi vještačke inteligencije sa neprihvatljivim rizikom su zabranjeni. Radi se o sistemima koji manipulišu ljudskim ponašanjem, kao što su, recimo, neki biometrijski sistemi za prepoznavanje emocija. EU Zakon o vještačkoj inteligenciji definiše i specifičan rizik od transparentnosti. Dipfejk, čet-botovi i drugi slični sadržaji generisani vještačkom inteligencijom moraće da budu označeni kao takvi.
Crna Gora, koja teži ka tome da postane članica EU, mora što prije shvatiti ozbiljnost fenomena vještačke inteligencije, naročito u domenu medija, a onda i raditi na tome da dostigne EU standarde u ovoj oblasti.
Tekst je nastao u sklopu izdanja “Priča iz regije” kojeg provode Res Publica i Institut za komunikacijske studije, u suradnji s partnerima iz Crna Gora (PCNEN), Kosova (Sbunker), Srbije (Autonomija), Bosne i Hercegovine (Analiziraj.ba), i Albaniji (Exit News), u okviru projekta "Korišćenje novinarstva zasnovanog na činjenicama za podizanje svesti i suprotstavljanje dezinformacijama u medijskom prostoru" uz podršku Britanske ambasade u Skoplju.
Molimo pročitajte pravila pre komentarisanja ili preuzimanja Napomena: Stavovi i mišljenja izraženi u ovom članku su stavovi autora i ne odražavaju nužno stavove Instituta za komunikacijske studije ili donatora.
