Crna Gora pred izazovom – Kako se zaštititi od AI generisanih lažnih informacija?
Šta povezuje intervju iskusnog crnogorskog ljekara koji preporučuje neki lijek koji vodi novinarka nacionalnog emitera i đake koji su masovno na maturskom ispitu ispisivali istovjetan esej? Pa, vještačka inteligencija (AI).
Prvobirno kreirana kao alat kojim se olakšava pristup informacijama, a može da bude i metod za učenje i napredovanje, da se koristi za uređivanje, redakturu, pomoćnik je u sakupljanju informacija koje korisnik na kraju, ipak treba da filtrira i koristi.
S druge strane, donijela je i žestoke manipulacije i doprinijela stvaranju osjećaja nesigurnosti jer više nismo sigurni da li je tačno ono što vidimo sopstvenim očima. Postala je moćno zloupotrijebljeno oruđe za kreiranje i distribuciju lažnih informacija.
Sadržaji koje je kreirala AI su realistične fotografije, video snimci, a korisnici društvenih mreža ih bez razmišljanja usvajaju kao istinu. Taj lažni sadržaj je toliko realističan da je i ekspertima postalo teško da ga do kraja izanaliziraju i proglase neistinitim.
Prosječnom korisniku društvenih mreža i medija je to gotovo nemoguće, pa čak i ukoliko su medijski pismeni. Za redakcije koje dalje distribuiraju navodno tačan sadžaj je slično – veliki broj medija nema kapacitete, ekspertizu da sadržaj analizira.
Zloupotrebe AI već u Crnoj Gori ima. Tako je pozicija i zvanje bivšeg direktora Doma zdravlja Podgorica dr Danila Jokića iskorištena za marketinške svrhe, ali i nikšićkog kardiolog dr Radovan Mijanović koji su navodno davali preporuke za ljekove protiv hipertenzije, čišćenje krvnih sudova, proširenih vena ili za poboljšanje erekcije. Na meti marketinških magova i kreatora lažnih informacija dr Jokić je jednom bio i uz kompromitaciju i Javnog Servisa RTCG kada je izmanipulisan intervju iz septembra prošle godine koji je dao za tu medijsku kuću.
Na lažnoj stranici sa logom RTCG, ali bez prave adrese tog medija, je objavljena vijest da je dr Jokić uhapšen jer je navodno kazao da postoji lijek za hipertenziju koji ljekari ne daju pacijentima, te da zbog toga, a ne zbog virusa umire desetine hiljada ljudi. On je u tom tekstu predstavljen i kao glavni specijalista u Centru za bolesti srca i vaskularni hirurg. U tom trenutku, on je bio direktor Doma zdravlja Podgorica, a subspecijalista je za bolesti zavisnosti. Zloupotrijebljena je i novinarka RTCG Julijana Žugić koja je vodila originalni intervju. Ovaj navodni intervju i tekst i dalje postoje na stranici, sa datumom od 23. jula ove godine.
Dr Jokić je nakon što je iskorišten nekoliko puta u svrhe lažnog marketinga prijavio NN lice Upravi policije, odnosno odjeljenju za borbu protiv sajber kriminala. On je medijima nakon toga kazao da su mu rekli da će biti teško otkriti počinioce. Od te prijave u novembru 2023. godine do danas, policija nije otkrila prevarante.
Malo prije toga se pojavio na društvenim mrežama i lažni intervju sa navodnim “doktorom Dušanom Zečevićem” koji je “razvio preparat za liječenje proširenih vena”, a u okviru kojeg se građanima Crne Gore nudi “specijalni popust” od 50 odsto za kupovinu jednog preparata.
Dr Mijanović je takođe, prije osam mjeseci, razgovarao sa novinarima Javnog servisa RTCG, ali ne o problemima sa erekcijom već o svom pozivu i hobijima, što se može čuti u njegovom originalnom gostovanju koje postoji na Youtube kanalu RTCG, kada on u emisiji “Naša baština” govori u studiju. Njegov govor je izmijenjen preko originalnog video zapisa i “pretvoren” u reklamu za preparate. I dr Miljanović je podnio prijavu protiv NN lica. Iako je prijava podnešena, ta “reklama” još uvijek, od 8. marta ove godine postoji na fb stranici “Soft land” te on i dalje služi za potencijalnu zaradu prevarantima.
Ukoliko se uporedi originalno gostovanje dr Miljanovića i deepfake reklame, može se primijetiti da je glas prošao kroz filtere AI, sa drugačijim načinom govora te postoji način, za medijski pismene, da shvate o čemu je riječ. Međutim, najveći dio gledalaca nema vještine da prepozna prevaru.
Takav način zloupotrebe AI se naziva deepfake. Video zapisi kreirni pomoću vještačke inteligencije vješto simuliraju nečiju pojavu ili glas, jer je potrebno svega nekoliko sekundi istinitog audio ili video snimka osobe, na osnovu kojih se konstruiše lažni iskaz.
Evropska unija je donijela Zakon o digitalnim uslugama da se bori protiv dezinformacija. Prema tom zakonu, platforme moraju da ublaže rizik od širenja dezinformacija i mogu da odgovaraju i da budu novčano kažnjene.
Donešen je u EU i Zakon o vještačkoj inteligenciji, koji obuhvata i zahtjev da se označe manipulisani video snimci. Međutim, on još nije stupio na snagu.
Pitanje upotrebe vještačke inteligencije (AI) u medijima i na društvenim mrežama je odavno problematizovano, ali se čini da je u Crnoj Gori i dalje ta tema daleka.
Iz Ministarstva kulture i medija (MKM) su kazali da je Akcionim planom za sprovođenje Medijske strategije predviđena priprema Analize o uspostavljanju komunikacije sa globalnim internetskim kompanijama i društvenim mrežama u cilju borbe protiv dezinformacija i govora mržnje.
„S obzirom da Crna Gora još nije članica EU, Digital Service Act Evropske unije, Uredba EU koja ove godine stupa na snagu, a koja se odnosi na obaveze osnivača društvenih mreža prema državama članicama EU, ne važi i za Crnu Goru. S obzirom na veličinu našeg tržišta jedini način da se u ovoj fazi definiše odgovornost vlasnika Facebooka i ostalih društvenih mreža prema našoj državi je da sa njima tim povodom, za početak, počnemo komunikaciju. Isto važi i za globalne streaming platforme, među kojima su i striming platforme videa na zahtjev, poput Netfliksa i HBO-a „, kazali su iz MKM.
Na to da ima sve manje vremena da Crna Gora uhvati globalni zamajac upozorava Marko Banović, analitičar u Digitalnom forezničkom centru.
On smatra da je u poređenju sa EU, Crna Gora zakasnila sa usvajanjem medijske strategije i novih medijskh zakona minimum četiri, pet godina.
„Sa novom tehnologijom i inovacijom koju donosi AI, Strategija i novi zakoni neće dati adekvatan odgovor na novonastale okolnosti u cilju zaštitete od zloupotrebe vještačke inteligencije. Ovi dokumenti treba da se ažuriraju kako bi se prilagodili realnostima modernog medijskog okruženja. Takođe, Crnoj Gori je neophodna posebna strategija za borbu protiv stranog miješanja i manipulacija informacijama“, kazao je on.
Ova tema se u Crnoj Gori još uvijek razvija, a postojeći zakonodavni okvir i Medijska strategija ne adresiraju specifične izazove koje AI donosi u pogledu širenja dezinformacija.
„Rapidni napredak ove tehnologije ne ostavlja puno prostora za čekanje. Donosioci oduka u Crnoj Gori moraj biti svjesni da ne smijemo doći u situaciju da kasnimo sa uspostavljanjem strateškog i zakonodavnog okvira vezanog za AI kao što je to bio slučaj sa borbom protiv dezinformacija i stranog miješanja“, naglasio je Banović.
Banović naglašava da su u EU i ostatku svijeta, regulacije upotrebe AI-a u medijima i širenje lažnog sadržaja u različitim fazama razvoja. Evropska unija radi na zakonodavstvu koje se bavi AI-om, kao što je Akt o vještačkoj inteligenciji (AI Act), ali regulisanje širenja lažnih informacija ostaje izazov zbog brzine razvoja tehnologije i načina na koji se koristi.
Psiholog i komukolog Radoje Cerović ističe važnost medijske pismenosti i ozbiljnom pristupu tom problemu.
„Veliko je pitanje do koje mjere ćemo raznim (za sada smiješno površnim) edukacijama o “medijskoj pismenosti” ikada moći da ozbiljno smanjimo prostor za manupilaciju našim čulima, a time i emocijama, stavovima i ponašanjem„, upozorava Cerović.
Da bi crnogorski mediji bili spremni da se suoče s izazovima koje donosi AI, potrebno je više edukacije, obuke i prilagođavanja zakonodavnog okvira. Kroz medijsku pismenost i odgovarajuće strategije, mediji mogu pomoći u borbi protiv širenja lažnih informacija i dezinformacija.
Marko Banović takođe ističe da, nažalost, crnogorska medijska scena trenutno nije spremna da se suoči sa izazovom prilagođavanja novim okolnostima.
„Pitanje spremnosti i obuke medijskih profesionalaca za upotrebu AI kao alata, kao i za borbu protiv zloupotrebe, postaje ključno. Ova situacija može se vidjeti i kao prilika da mediji postanu edukatori javnosti o rizicima koji proizlaze iz nepravilne upotrebe AI-a i širenja dezinformacija“, kaže Banović.
Crnogorski tradicionalni mediji i dalje nijesu preponati kao oni koji šire lažne vijesti, govor mržnje, misinformacije i slično, ali se čini da društvene mreže sve više zauzimaju prostor koji pripada medijima.
Na pitanje da li bi mediji zapravo trebalo da budu ti koji će medijski opismenjavati publiku, prije svega svojom medijskom pismenošću, odnosno sposobnošću da kontrošu AI, da nauče da je koriste kao alat, da je prepoznaju i na neki način predoče javnosti opasnost, Banović je odgovorio da povećana upotreba vještačke inteligencije definitivno predstavlja razlog za zabrinutost.
„Ona omogućava manipulaciju informacijama na sofisticiran i teško detektibilan način. Međutim, vještačka inteligencija istovremeno može biti ključni alat za borbu protiv dezinformacija. Crnogorski mediji mogu odigrati ključnu ulogu u obrazovanju javnosti o rizicima koji proizlaze iz AI-a. Takođe, mediji mogu koristiti AI kao alat za poboljšanje svojih sadržaja i kao pomoć u detekciji lažnog sadržaja, ali je važno da budu obučeni i da imaju odgovarajuće mehanizme za sprečavanje zloupotrebe“, kaže naš sagovornik.
On podsjeća da se AI odavno koristi za kreiranje i širenje manipulacija informacijama, prije svega kroz generisanje lažnih vijesti, slika, videa, i audio zapisa.
„Međutim, sa dolaskom takozvanih „generativnih modela“ tipa ChatGPT, ušli smo u novu eru vještačke inteligencije koja omogućava proizvodnju ogromne količine sadržaja, i vizuelnih i tekstuačnih, koji je veoma teško detektovati kao sintetički, a samim tim se i izboriti protiv kampanja dezinformacija. Dva dokumentovana slučaja zloupotrebe AI-a u pokazuju koliko je važno uspostaviti mehanizme za sprečavanje širenja lažnih informacija. S obzirom na to da AI može generisati vrlo uvjerljiv sadržaj, prosječan korisni često ne može uočiti razliku između stvarnih i lažnih informacija. Ova situacija naglašava značaj digitalne medijske pismenosti i obrazovanja“, istakao je Banović.
Komunikolog i psiholog Radoje Cerović podsjeća da su ljudi uspjeli da prevare ili hakuju biološke mehanizme i da ih tako zloupotrijebe.
„Na primjer, kada smo izmislili hemijske droge njima smo “hakovali” prirodne motivacione mehanizme u mozgu, a kasnije smo uspjeli da ih zloupotrijebimo za profit. Naš urođeni motivacioni mehanizam (tzv “dopaminski put”) je time “prevaren”. Prirodni mehanizmi kontrole ponašanja nisu napravljeni za heroin ili metamfetamin i njihovim izlaskom na scenu smo dobili moćne alate za kontrolu, pa i zlonamjernu, nečijeg ponašanja“, pojašnjava on, praveći paralelu sa povjerenjem u lažne vijesti koje nijesmo u stanju da prepoznamo.
Cerović kaže da na sličan način napredni mehanizmi vještačke inteligencije, od kreiranja slika do oblikovanja informacija efikasno “hakuju” našu percepciju realnosti.
„Mi uostalom kažemo “vidio sam svojim očima”, što je do skoro možda i imalo smisla. Kako sada da naučimo da je “vjerovati sopstvenim očima” neadekvatan sistem kontrole realnosti? Ako oblikujete ulazne podatke na dovoljno uvjerljiv način i ako pritom koristite emocionale sadržaje, taj mehanizam je moćniji od svake hipnoze. Uvjerljiva slika na kojoj je neka scena nasilja, može da pokrene rat. Kreirana realnost može da obriše iz javnog života (ili cancel-uje kako je to danas moderno reći) neku osobu i njen javni diskurs. U krajnjem sada možemo i da u potpunosti “kreiramo” nepostojeću osobu, koja će svojom dirigovanom komunikacijom uticati na našu percepciju realnosti ili na naše ponašanje“, ističe Cerović.
On naglašava da će svi ovakvi slučajevi zaobići naše mehanizme “kontrole realnosti” i direktno izazvati predviđenu reakciju, onu koju žele oni koji imaju namjeru i alate da manipulišu našim ponašanjem.
Foto: AI
Ovaj tekst urađen je uz finansijsku podršku Nacionalne zadužbine za demokratiju. Sadržaj je isključivo odgovornost autora i izdavača Instituta za medije Crne Gore i nužno ne odražava stavove donatora.