Instagram priprema veliku promjenu u načinu na koji postupa s osjetljivim pretragama tinejdžera: kada otkrije da je maloljetnik On više puta u kratkom vremenskom periodu insistira na pretraživanju termina vezanih za samoubistvo ili samopovređivanje., će direktno obavijestiti svoje roditelje ili zakonske staratelje, pod uslovom da su aktivirali alate za praćenje na platformi.
S ovom novom funkcijom, Meta-ina društvena mreža prelazi sa jednostavnog blokiranja osjetljivih rezultata i preusmjeravanja na linije za pomoć na sljedeći korak: proaktivno uključiti porodice kada bi taj obrazac pretrage mogao biti znak upozorenja. Kompanija tvrdi da namjera nije praćenje radi praćenja, već da se odraslima ponude informacije i resursi za pravovremenu intervenciju ako tinejdžeru zatreba podrška.
Kako će funkcionirati nova roditeljska upozorenja?
Funkcija će biti aktivirana samo na računima gdje je konfigurirana veza za roditeljski nadzor. Drugim riječima, Samo roditelji su prijavljeni u program praćenja Instagrama Oni će primati ova obavještenja; ovo nije generalizovano praćenje svih tinejdžera, već dodatni sloj za porodice koje su se već odlučile za ovu opciju.
Prema Meti, upozorenja će se aktivirati kada sistem otkrije da je maloljetnik pretrage ponovljene i u kratkom vremenskom periodu Termini koji su jasno povezani sa samoubistvom ili samopovređivanjem. To uključuje riječi poput "samoubistvo", "samopovređivanje" i fraze koje sugeriraju namjeru samopovređivanja, kao i pretrage koje promoviraju ovakva ponašanja.
U praksi će postupak biti sljedeći: Instagram već blokira tinejdžerske račune od prikazivanja rezultata koji promoviraju samoubistvo ili samopovređivanje, i umjesto toga Prikazuje resurse za pomoć i kontakte za specijalizirane usluge.Kada, uprkos ovim blokadama i porukama, aktivnost pretrage ukazuje na upornost, obavještenje će biti aktivirano na povezanom roditeljskom ili starateljskom računu.
Upozorenje će stići putem nekoliko kanala: e-poštom, SMS-om ili WhatsAppomUpozorenje se izdaje na osnovu kontakt informacija koje je dostavio roditelj ili staratelj, a također i putem obavještenja unutar njihovog Instagram naloga. Dodirom na njega otvorit će se poruka preko cijelog ekrana u kojoj se objašnjava da je tinejdžer u kratkom vremenskom periodu više puta pretraživao pojmove vezane za samoubistvo ili samopovređivanje.
Pored opšteg opisa onoga što se dogodilo, ta poruka će uključivati Linkovi do materijala i resursa koje su razvili stručnjaci U oblasti mentalnog zdravlja i prevencije samoubistava, ovi alati su osmišljeni da pomognu odraslima da se snađu u tako osjetljivom razgovoru bez pogoršavanja situacije djeteta. Meta naglašava da je također pokušala kalibrirati sistem kako bi izbjegla nepotrebna obavještenja koja bi mogla umanjiti efikasnost zaista važnih upozorenja.
Međunarodno raspoređivanje i potencijalni utjecaj na Evropu
Meta je potvrdila da će uvođenje biti postepeno. U prvoj fazi, Funkcija će biti aktivirana u Sjedinjenim Američkim Državama, Ujedinjenom Kraljevstvu, Australiji i Kanadi.gdje će početi s radom „sljedeće sedmice“, prema navodima kompanije. U tim zemljama, i tinejdžeri i roditelji koji već koriste uslugu praćenja dobit će unaprijed obavještenje kojim će biti obaviješteni da će ova nova vrsta obavještenja biti pokrenuta.
Tehnološka kompanija očekuje proširiti mjeru na druge regije, uključujući Evropu, kasnije ove godineIako još nije odredila konkretne datume za Španiju. S obzirom na evropski regulatorni okvir - s Uredbom o digitalnim uslugama (DSA) i sve većim pritiskom za jačanje zaštite maloljetnika na društvenim mrežama - i debate poput Zabrana društvenih mreža za maloljetnike u AustralijiDolazak ovog sistema upozorenja u Evropsku uniju će predvidljivo biti uslovljen zahtjevima koje će postaviti regulatori EU i tijela za zaštitu podataka.
U zemljama poput Španije, gdje su rasprave o minimalnoj dobi za korištenje društvenih mreža, verifikaciji identiteta i mentalnom zdravlju adolescenata vrlo raširene, Ova funkcija bi mogla postati dodatni alat za porodice i obrazovne centre.Međutim, ostaje da se vidi kako će Meta integrirati ova upozorenja sa zahtjevima za algoritamsku transparentnost i privatnost koje nameću evropski propisi.
Za sada, kompanija samo navodi da će međunarodno uvođenje biti postepeno i da će fino podesiti rad upozorenja Na osnovu iskustva na prvim tržištima i dijaloga sa organizacijama za prevenciju samoubistava, pedijatrima i roditeljskim grupama.
Odnos s roditeljskim nadzorom i pravilima o sadržaju
Ova upozorenja su integrirana u skup alati za roditeljski nadzor koje Instagram nudi Već neko vrijeme dostupne su opcije poput vremenskog ograničenja korištenja, kontrole nad tim ko može slati poruke maloljetniku i vidljivosti kontakata koje prate i ko ih prati. Da bi se upozorenja aktivirala, neophodno je da je porodica prethodno konfigurisala ovaj nadzor i da je tinejdžer prihvatio vezu, kako je uspostavljeno trenutnim sistemom platforme.
Meta naglašava da održava stroge politike protiv sadržaja koji promovira ili veliča samoubistvo ili samopovređivanjeOve vrste objava se uklanjaju ili ograničavaju, a u slučaju maloljetnika primjenjuju se dodatni filteri. Međutim, kompanija dozvoljava korisnicima da govore o vlastitim problemima s mentalnim zdravljem ili ličnim iskustvima vezanim za samopovređivanje ili samoubistvo, sve dok ne podstiču druge da imitiraju ovakva ponašanja.
U slučaju tinejdžerskih profila, sadržaj o ličnim iskustvima s ovim temama koji se mogu smatrati osjetljivim bit će skriva se od maloljetnika čak i ako prate osobu koja ga objavljujeIdeja je da oni koji prolaze kroz tešku situaciju mogu izraziti sebe i potražiti podršku, ali smanjujući izloženost drugih mladih ljudi materijalima koji bi mogli djelovati kao okidač.
Uvođenjem ovih upozorenja, Instagram pokušava zatvoriti krug: Kada maloljetnik uporno vrši ovakve pretrage, ne samo da nailazi na osjetljiv sadržaj, već pokazuje i obrazac koji bi mogao ukazivati na rizik.Platforma upozorava odgovorne odrasle osobe kako bi imale priliku intervenirati van mreže. U porukama kompanije naglašava se da neće pružati tačne detalje svake pretrage niti prikazivati kompletnu historiju, već opće upozorenje uz smjernice.
Meta također priznaje da je ovo delikatno pitanje u kojem privatnost adolescenata mora biti uravnotežena s pravo i odgovornost roditelja da ga zaštiteZato kaže da se konsultovao sa stručnjacima za prevenciju samoubistava i svojom specifičnom savjetodavnom grupom za samoubistvo i samopovređivanje kako bi definisao koliko pretraga i u kom vremenskom intervalu opravdavaju upozorenje.
Obavještenja i za razgovore s umjetnom inteligencijom
Uz interne pretrage, kompanija želi pokriti još jedan front: Interakcije tinejdžera s njihovim chatbotovima s umjetnom inteligencijom, kao što je Meta AI, već integriran u različite aplikacije grupe. Meta priznaje da mnogi mladi ljudi Koriste AI alate kako bi tražili emocionalni savjet ili razgovaraju o temama o kojima se možda ne bi usudili razgovarati s odraslima oko sebe.
Prema službenom saopštenju, kompanija radi na slična roditeljska obavještenja za „određena iskustva s umjetnom inteligencijom“ vezano za samoubistvo ili samopovređivanje, koje će biti pokrenuto kasnije ove godine. Kada tinejdžer pokuša započeti ili održati razgovore sa vještačkom inteligencijom o samopovređivanju ili oduzimanju života, sistem bi mogao generirati upozorenje za roditelje, slično onome što će se dogoditi sa internom tražilicom.
Meta uvjerava da je njegovo Chatbots Već su obučeni da sigurno odgovaraju na osjetljiva pitanja, izbjegavajući opasne preporuke, nudeći poruke podrške i preusmjeravajući korisnike na profesionalne resurse kada je to prikladno. Nova funkcija će biti da će, pored ovog trenutnog odgovora unutar razgovora, roditelji s aktiviranim nadzorom također biti obaviješteni ako se otkriju zabrinjavajući znakovi.
Kompanija insistira da je ovaj razvoj još uvijek u toku i da podijelit ću više detalja u narednim mjesecimauključujući tačno kako definirati koja vrsta razgovora pokreće upozorenje, koje će informacije odrasli vidjeti i kako će se sve ovo integrirati s propisima o privatnosti djece u svakoj zemlji.
Ovaj potez odražava širu promjenu fokusa u tehnološkoj industriji: kompanije ne samo da moraju moderirati ono što se objavljuje, već i pratiti obrasce korištenja koji mogu ukazivati na buduće probleme s mentalnim zdravljemposebno među tinejdžerskim korisnicima koji koriste vještačku inteligenciju kao pouzdanog sagovornika.
Pravni kontekst i pritisak na Metu u vezi s mentalnim zdravljem maloljetnika
Objava Instagrama dolazi u posebno osjetljivom trenutku za Metu, koja suočava se s brojnim tužbama i pravnim postupcima zbog navodnog utjecaja njenih platformi na mentalno zdravlje i sigurnost maloljetnika. U Sjedinjenim Američkim Državama postoje otvoreni slučajevi u raznim državama u kojima se kompanija optužuje za dizajniranje proizvoda koji izazivaju ovisnost i za neadekvatnu zaštitu mladih od štetnog sadržaja.
U Los Angelesu, tekuće suđenje dovodi u pitanje da li mreže poput Instagrama i Facebooka Oni podstiču ovisnost i štete maloljetnicima putem algoritama za preporuke i sistema obavještavanja koji podstiču kompulzivnu upotrebu. U međuvremenu, u Novom Meksiku, još jedan pravni postupak nastoji utvrditi da li je Meta propustila da zaštiti djecu od online seksualnog iskorištavanja na svojim platformama.
Ovi zahtjevi su pored hiljade porodica, školskih okruga i vladinih agencija koji su podnijeli zajedničke tužbe protiv Mete i drugih velikih društvenih mreža, tvrdeći da su njihove usluge doprinijele porastu depresije, poremećaja u ishrani i suicidalnog ponašanja među tinejdžerima.
Rukovoditelji Mete, predvođeni Markom Zuckerbergom, do sada su negirali da postoji dokazana uzročno-posljedična veza između korištenja njihovih platformi i problema s mentalnim zdravljem. Izvršni direktor je na sudu ponovio da je, po njegovom mišljenju, Dostupni naučni dokazi ne dokazuju uvjerljivo da platforme društvenih medija poput Instagrama uzrokuju psihološku štetu i da se efekti mogu uveliko razlikovati ovisno o vrsti korištenja. Drugi slučajevi uključuju pružatelje umjetne inteligencije; OpenAI je negirao odgovornost u slučaju koji je također izazvao javnu raspravu.
U svojim nastupima, Zuckerberg je također tvrdio da je primarna odgovornost provjera dobi i kontrola pristupa za maloljetnike Odgovornost bi trebala pasti na operativne sisteme i prodavnice aplikacija - odnosno na igrače poput Applea i Googlea - a ne isključivo na developere aplikacija. Istovremeno, agencije poput američke Federalne trgovinske komisije počele su ublažavati određena ograničenja kako bi treće strane mogle razvijati tehnologije za provjeru dobi bez automatskog suočavanja s kaznama prema propisima o privatnosti djece.
U Evropi, iako je fokus zahtjeva drugačiji, debata je slična: institucije EU, ombudsmani za djecu i zdravstvene organizacije pozivaju platforme poput Instagrama da preduzmu akciju. proaktivnije mjere za smanjenje rizika među adolescentimaNova funkcija upozorenja o potrazi za samoubistvom u skladu je s ovim i mogla bi poslužiti kao pokazatelj da Meta jača svoj odgovor, u kontekstu u kojem vlasti razmatraju nametanje strožih obaveza.
Uzeti zajedno, ovi događaji ukazuju na promjenu tona Instagrama: društvena mreža i dalje tvrdi da ne postoji definitivan dokaz da njene usluge uzrokuju štetu, ali istovremeno Priznaje da treba ponuditi više alata za otkrivanje znakova upozorenja. i da se porodicama olakša intervencija prije nego što rizična situacija eskalira.
S ovim sistemom upozorenja povezanim s pretragama o samoubistvu i samopovređivanju, te s predstojećim prelaskom na razgovore zasnovane na vještačkoj inteligenciji, Meta pokušava ojačati svoj imidž odgovorne platforme bez napuštanja svojih vodećih proizvoda. Uspjeh ili neuspjeh ove mjere ovisit će o tome hoće li postići tu delikatnu ravnotežu između Zaštitite maloljetnike, poštujte njihovu privatnost i ne preopterećujte roditelje obavještenjima., u vrijeme kada se sigurnost mladih na društvenim mrežama pažljivije prati nego ikad.
