Posljednjih sedmica izbila je kontroverza oko TikToka. zbog masovnog širenja Rasistički videozapisi generirani umjetnom inteligencijomOve kreacije su postigle široku rasprostranjenost i izazvale su uzbunu zbog rizika novih alata umjetne inteligencije, dovodeći u pitanje sposobnost samih platformi i programera da obuzdaju Govor mržnje koji putuju kroz mrežu punom brzinom.
Kontroverza se fokusira na novu vještačku inteligenciju kompanije Google, Veo 3, nedavno predstavljen i koji privlači pažnju zbog svoje sposobnosti generiranja hiperrealistični isječci do osam sekundi jednostavno iz teksta. Prema nekoliko izvještaja organizacija poput Media Matters, ovi videozapisi su postavljeni na TikTok s desetina računa, akumulirajući preglede u milionima.
Videozapisi puni rasističkih stereotipa i dehumanizacije
Tužba u vezi s Media Matters fokusira se na Sadržaj koji prikazuje crnce kao majmune, kriminalce ili ovisnike o određenoj hrani, kao i slike imigranata, Jevreja i ljudi azijskog porijekla koji se ismijavaju i štetno porede. U jednom od najviralnijih klipova, na primjer, dva bijela policajca u patrolnom automobilu pucaju na crnca nakon što su pokazali na njega, u sceni koja ima preko 14 miliona pregleda.
Ostali videozapisi, generirani pomoću Veo 3, prikazuju azijske muškarce koje jure toaletni pribor ili su okruženi slikama mačaka i pasa, aludirajući na stare stereotipe, dok članovi jevrejske zajednice jure zlatnike ili su izloženi eksplicitnim referencama na nacizam i koncentracione logore. Ovi isječci, koji u mnogim slučajevima nose vidljivi vodeni žig Googleove umjetne inteligencije, dijeljeni su pod hashtagovima poput #Veo3 ili #AI, što dodatno olakšava njihovo viralno širenje.
Pored eksplicitnog sadržaja, komentari na objave sadrže i veliki broj poruka koje pojačavaju ili slave predstavljeni stereotipi, koji umnožava obim diskriminatorskog diskursa i doprinosi njegovoj normalizaciji.
Vještačka inteligencija štiti od nedostataka i izazova moderiranja
Pojava ovih videa pokazala je koliko je to jednostavno zaobilazeći automatske filtere umjetne inteligencijeIako je Google promovirao Veo 3 kao alat s naprednim zaštitnim mjerama (uključujući vodene žigove i automatsko blokiranje određenih zahtjeva), korisnici su uspjeli pronaći praznine u sistemu da generišu uvredljiv sadržaj.
Stručnjaci ističu da umjetna inteligencija nije uvijek u stanju uhvatiti suptilnost nekih rasističkih simbola i referenci, koji omogućava da slike koje izgledaju nevino prođu kroz tehničke filtere, ali sadrže diskriminatornu poruku koju lako prepoznaju oni koji žele konzumirati takav materijal. propusti u kontekstualnom razumijevanju uzrokuju da mnoge problematične kreacije promaknu kroz mrežu prije nego što ih pregledaju ljudski moderatori.
Prema riječima portparola TikToka, društvena mreža kombinuje algoritme za detekciju sa ručna moderacija za borbu protiv mržnje i dezinformacija, te tvrdi da je uklonio desetine impliciranih računa i videozapisa, u mnogim slučajevima prije nego što je skandal došao do medija. Međutim, brzina propagacije čini štetu već učinjenom kada se preduzme akcija.
TikTok i Google pod pritiskom da pooštre svoje politike
Obje kompanije su ponovile da Oni izričito zabranjuju širenje govora mržnje ili diskriminirajućeg sadržaja na svojim platformama. TikTok u svojim smjernicama naglašava da videozapisi koji dehumanizirati bilo koju grupu, dok Google tvrdi da njegove usluge umjetne inteligencije uključuju automatsko blokiranje kada se otkriju štetni pojmovi ili namjere.
Međutim, u praksi, Masovna umjerenost nije dovoljnaSame kompanije prepoznaju da količina videozapisa Sve veći broj novih podataka otežava efikasnu kontrolu u realnom vremenu. Nadalje, u slučaju umjetne inteligencije, programeri se suočavaju s poteškoćama kodiranja svih jezičkih i simboličkih varijanti koje se mogu koristiti za zaobilaženje ograničenja.
Nakon negodovanja, civilne organizacije, stručnjaci i akademici zahtijevali su jačanje zaštitnih mjera u generiranju digitalnog sadržaja. Prijedlozi uključuju poboljšanje kontekstualnih filtera umjetne inteligencije, uspostavljanje vidljivih i neuklonjivih vodenih žigova i stvaranje javnih alata za identifikaciju porijekla videa.
Viralnost i algoritam: Mržnja se pojačava
Utjecaj ovih videa nije ograničen samo na TikTok. Slični slučajevi su otkriveni i na Instagramu i na X-u (ranije Twitteru), iako s manjim utjecajem. Ključ leži u algoritam preporuke, što daje vidljivost i nagrađuje najviralniji sadržaj, bilo pozitivan ili negativan.
Ovaj fenomen, prema analitičarima, generira začarani krugŠto je sadržaj ekstremniji, to izaziva više reakcija, što zauzvrat povećava njegov doseg i utjecaj na javno mnijenje. Teškoća u razlikovanju stvarnih i videa generiranih umjetnom inteligencijom čini zadatak još težim, posebno među mlađim korisnicima.
Strah je da će se situacija pogoršati ako Google integrira Veo 3 s proizvodima poput YouTube Shortsa, što bi olakšalo masovno širenje ove vrste videa i još jednom bi testiralo efikasnost sistema moderiranja.
Ovaj slučaj na TikToku pokazuje hitna potreba za preispitivanjem politika i tehnologija povezano s umjetnom inteligencijom i platformama za sadržaj. Iako inovacija nudi nove alate za kreativnost, ona također generira etički i društveni izazovi to se ne može ignorisati. Bez čvrstog okvira, rizik da vještačka inteligencija postane glasnogovornik mržnje ostaje veći nego ikad.