Instagram je napravio još jedan korak u svojoj strategiji za rješavanje problema porasta influencera generiranih umjetnom inteligencijom . Platforma Meta najavila je značajnu promjenu svojih pravila: od sada će se računi s ličnostima kreiranim umjetnom inteligencijom morati jasno identificirati ili riskirati gubitak vidljivosti unutar aplikacije.
Ovaj potez dolazi nakon višemjesečnog testiranja i pritužbi korisnika koji su rekli da su se osjećali prevareno kada su otkrili da je naizgled ljudski profil zapravo sintetički lik. Instagram neće zabraniti ove vrste računa, ali želi da se jasno razlikuju od profila stvarnih ljudi.
Od "AI kreatora" do "AI generiranog profila"
Najvidljivija promjena je zamjena stare oznake „AI kreator“ novim terminom „AI-generisani profil “. Do sada je oznaka služila kao univerzalni naziv za račune koji koriste AI generisani sadržaj, ali je bila dvosmislena: mogla se odnositi na ljudskog kreatora koji koristi AI kao podršku ili na izmišljeni avatar koji ne postoji u stvarnom životu.
Novom formulacijom, Instagram želi jasno staviti do znanja da je oznaka rezervisana za profile čiji je glavni lik osoba kreirana u potpunosti pomoću vještačke inteligencije . Drugim riječima, ne radi se samo o sadržaju koji se retušira ili automatski generira, već o tome da je primarni identitet profila vještački. Sama aplikacija opisuje oznaku kao specifičan identifikator za račune koji "sadrže personu generiranu vještačkom inteligencijom".
Računi koji su već imali omogućen stari opis vidjet će ga automatski pretvorenim u "profil generiran umjetnom inteligencijom". Nakon toga, upravitelji računa mogu pregledati da li novi opis zaista odražava njihovu aktivnost i odlučiti hoće li ga zadržati ili ukloniti ako smatraju da više ne odgovara njihovom sadržaju.
U profilima koji je koriste, oznaka će se pojavljivati i u zaglavlju računa i pored objava, sve dok taj sadržaj nema drugu oznaku koja ukazuje da ga je kreirala ili modificirala vještačka inteligencija.
Kazna za avatare koji se ne identificiraju
Zaista delikatan aspekt ove promjene leži u posljedicama za one koji ne koriste tagove kako treba. Instagram pravi razliku između onih koji dobrovoljno aktiviraju svoj brend i računa koji bi ga trebali prikazivati, ali to ne čine . U prvom slučaju, kompanija garantuje da neće biti promjena u dosegu profila: računi koji se transparentno identifikuju i dalje će se normalno pojavljivati u preporukama.
Međutim, kada platforma otkrije profil sa sintetičkom personom koja ne koristi tu oznaku, direktno će kazniti njegovu vidljivost. Ovi računi više neće ispunjavati uslove za pojavljivanje u javnim odjeljcima za otkrivanje , kao što su kartica Istraži, Preporučeni video snimci ili prijedlozi za korisnike koji ih još ne prate.
Instagram nije precizirao koji će postotak dosega biti smanjen niti na koliko dugo, ali jasno stavlja do znanja da se radi o svojevrsnoj "kazni za vidljivost": račun i dalje postoji, može nastaviti objavljivati i trenutni pratioci će nastaviti vidjeti njegov sadržaj, ali gubi sposobnost rasta putem algoritma za preporuke.
Platforma će koristiti vlastite sisteme za detekciju kako bi identificirala ove slučajeve, kombinirajući automatizirane alate i interne signale koji ukazuju na to da račun koristi personu generiranu umjetnom inteligencijom bez njenog otkrivanja. Kada se to dogodi, odgovorna strana će dobiti obavještenje s upozorenjem da njihov profil više nije podoban za preporuku drugim korisnicima.
Kako aktivirati oznaku i koje opcije imaju kreatori
Za one koji upravljaju ovim vrstama računa, proces identifikacije bit će relativno jednostavan. Na ekranu za uređivanje profila, kreator može aktivirati opciju "Profil generiran umjetnom inteligencijom" . Nakon odabira, oznaka će biti vidljiva na profilu i primjenjivat će se i na njihove objave, osim ako te objave već ne prikazuju drugu specifičnu oznaku u vezi sa sadržajem generiranim ili modificiranim umjetnom inteligencijom.
Ako Instagram označi račun kao sumnjiv da koristi sintetički avatar bez njegovog prepoznavanja, kreator ima dva načina da povrati svoje prisustvo u preporukama. Prvi je najdirektniji: dodati odgovarajuću oznaku , potvrditi da se radi o umjetnom identitetu i to naznačiti na profilu. Nakon što to učini, sistem može vratiti njihovu podobnost za pojavljivanje u Explore i predloženim Reels.
Druga opcija je žalba na odluku. Meta priznaje da njeni sistemi za detekciju „nisu uvijek savršeni“ i da se mogu pojaviti lažno pozitivni rezultati, pa stoga pruža mehanizam za žalbe u odjeljku „Status računa“ u postavkama. Ako kreator smatra da je platforma napravila grešku - na primjer, zato što profil predstavlja stvarnu osobu koja koristi vještačku inteligenciju samo za uređivanje sadržaja - može zatražiti pregled.
Ako Instagram prihvati žalbu, i profil i njegove objave će ponovo moći da se pojavljuju u općim preporukama društvene mreže. Na ovaj način, kompanija pokušava da uravnoteži upotrebu automatizacije sa stepenom ljudskog nadzora kako bi ispravila greške kada one nepravedno dovedu kreatora u nepovoljan položaj.
Koje račune treba označiti, a koje isključiti
Jedan od ključnih aspekata nove politike je razlika između korištenja umjetne inteligencije kao alata i izgradnje potpunog identiteta oko nje. Oznaka „profil generiran umjetnom inteligencijom“ nije namijenjena bilo kojem korisniku koji povremeno koristi umjetnu inteligenciju, bilo da retušira fotografije, generira prateće slike, ispravlja tekst ili dizajnira grafiku.
U ovim slučajevima, Instagram smatra subjekt profila stvarnom osobom, čak i ako koristi vještačku inteligenciju u svom kreativnom procesu. Ni fotografi koji koriste napredne filtere, ni kreatori koji generiraju sadržaj generativnim modelima, ni brendovi koji testiraju automatizirane efekte neće morati označavati svoj račun novim identifikatorom ako centralna figura ostane čovjek.
Fokus je na takozvanim virtuelnim influencerima, izmišljenim likovima i hiperrealističnim avatarima predstavljenim kao da su stvarni ljudi. Ovi profili prikazuju sintetičko lice, izmišljeni život i, u mnogim slučajevima, komercijalne saradnje sa stvarnim brendovima, bez jasnog naznaka da iza njih ne stoji fizička osoba.
Instagram insistira da nalozi koji dobrovoljno koriste tu oznaku neće osjetiti utjecaj na svoj doseg. Zvanični cilj je povećanje transparentnosti, a ne kažnjavanje onih koji odluče jasno staviti do znanja da je njihov protagonist digitalni lik. Instagram će djelovati odlučno u slučajevima kada postoji pokušaj predstavljanja kao čovjek uprkos korištenju identiteta generiranog umjetnom inteligencijom.
Ova razlika povlači granicu između vještački generiranog sadržaja i simulacije ljudskih identiteta. Platforma prihvata vještačku inteligenciju kao kreativni resurs, ali zahtijeva da se ne koristi za obmanjivanje korisnika o tome ko - ili šta - zaista stoji iza profila.
Globalni problem koji utiče i na Evropu
Pooštravanje propisa dolazi nakon perioda u kojem su međunarodni mediji i stručnjaci za influencer marketing dokumentirali brzo širenje sintetičkih profila . Istrage poput onih koje su proveli The Guardian i The New York Times identificirale su mreže "influencera" generiranih umjetnom inteligencijom koji promoviraju aplikacije, wellness brendove ili zdravstvene dodatke, ponekad se predstavljajući kao zdravstveni stručnjaci, iako to nisu.
U Evropi je ovaj fenomen posebno zabrinjavajući zbog svoje kompatibilnosti s propisima o oglašavanju i predstojećom Evropskom uredbom o vještačkoj inteligenciji , koja naglašava transparentnost pri interakciji s automatiziranim sistemima. Iako Instagramova mjera nije predstavljena kao direktan odgovor na evropsko zakonodavstvo, ona je u skladu s regulatornim trendom na kontinentu, koji se zalaže za jasne razlike između vještački generiranog sadržaja i identiteta.
Na tržištima poput Španije, gdje influenceri igraju sve važniju ulogu u marketinškim kampanjama i saradnji brendova, širenje sintetičkih avatara pokreće pitanja o povjerenju javnosti. Novo obavezno označavanje slično je, iako s nekim razlikama, oznakama sponzoriranog sadržaja koje je reklamna industrija morala usvojiti prije mnogo godina kako bi se uskladila s organima za zaštitu potrošača i samoregulatornim kodeksima.
Za evropske i španske brendove koji već rade s personama generiranim umjetnom inteligencijom, promjena uvodi jasan trošak: ako profil nije identificiran kao generiran umjetnom inteligencijom, njegova sposobnost da dopre do novih korisnika putem algoritma bit će ograničena. Nakon toga, svaki oglašivač će morati odlučiti isplati li se održavati izgled "prave osobe" ili preferira transparentnost kako bi izbjegao gubitak dosega.
Ravnoteža između transparentnosti, poslovnosti i povjerenja.
Ovim potezom, Instagram pokušava da riješi komplikovanu situaciju. S jedne strane, Meta već dugo promovira vještačku inteligenciju kao priliku za kreatore i oglašivače, nudeći alate za generiranje slika, poboljšanje teksta i eksperimentiranje s digitalnim avatarima. S druge strane, priznaje da konfuzija oko toga ko je čovjek, a ko nije, ugrožava povjerenje u sam feed, koji je temelj njenog reklamnog poslovanja.
Društvena mreža ne briše profile generirane umjetnom inteligencijom niti zabranjuje njihovu monetizaciju; jednostavno zahtijeva od korisnika da se identificiraju ako žele ravnopravno konkurirati u algoritmu preporuka. To je način da se kaže da su sintetički avatari dobrodošli, sve dok se ne predstavljaju kao nešto što nisu.
Ostaje nekoliko pitanja: kakav će biti tempo implementacije ovih propisa, kako će agencije i brendovi koji su uložili mnogo u virtuelne influencere reagovati i hoće li druge platforme slijediti taj primjer? Također, ostaje da se vidi hoće li ova mjera biti dovoljna da obuzda osjećaj zasićenosti sadržajem generiranim umjetnom inteligencijom koji mnogi korisnici izražavaju ili će jednostavno dio tog problema prebaciti na druge, manje regulirane prostore.
U svakom slučaju, novo označavanje označava prekretnicu u načinu na koji Instagram upravlja umjetnom inteligencijom primijenjenom na identitete. Društvena mreža pretpostavlja da su sintetički likovi tu da ostanu, ali postavlja osnovni uvjet: ako profil sadrži osobu koju je kreirala umjetna inteligencija, zajednica ima pravo znati bez potrebe da čita sitni tisak.