Kada neko umre, njegov digitalni otisak ne nestaje s njim: Fotografije, komentari, privatne poruke i čestitke i dalje kruže društvenim mrežama. kao da je vrijeme stalo. Na platformama poput Facebooka, ovi računi mogu postati neka vrsta prazne kuće u koju pisma neprestano pristižu, a da ih niko ne otvori ili na njih ne odgovori.
Usred tog scenarija, a patent registrovan od strane Mete ponovo je otvorio delikatnu debatu: mogućnost da Umjetna inteligencija održava vaš profil aktivnim kada vas nemaIdeja, opisana u dokumentima podnesenim Američkom zavodu za patente i žigove, a otkrivena od strane medija kao što su Business Insider y futurizamTo sugerira da bi automatizirani sistem mogao nastaviti objavljivati, reagirati, pa čak i ćaskati u vaše ime nakon vaše smrti.
Šta tačno predlaže Metin patent?
Suština dokumenta je model velikog jezika (LLM) Sposoban je da nauči kako pišete, šta objavljujete i kako komunicirate na društvenim mrežama. Da bi to učinio, hranio bi se vašim historija objava, poruka, komentara, fotografija i drugih podataka o ponašanju, s ciljem uvjerljivog imitiranja vašeg stila.
Meta u patentu objašnjava da bi se ovaj jezički model mogao koristiti za simulirati aktivnost korisnika koji nije prisutan u sistemuBilo da ste uzeli dužu pauzu ili ste preminuli, drugim riječima, sistem ne bi samo sačuvao vaš profil kao statičnu datoteku, već bi ga transformirao u aktivno prisustvo unutar napajanje vaših kontakata.
U praksi bi to značilo da Bot obučen s vašim podacima bi nastavio generirati nove objave ...koje bi izgledalo kao da ste vi napisali. Dokument opisuje mehanizam koji analizira jezičke i bihevioralne obrasce kako bi replicirao vaš način izražavanja, vaše uobičajene teme, pa čak i kako reagujete na određeni sadržaj.
Ovaj pristup ide korak dalje od trenutnih opcija za "memorijalizaciju" računa, koje profil pretvaraju u komemorativni prostor bez novih aktivnosti. Ovdje bi se račun nastavio kretati: pojavljivao bi se u vremenskim linijama, mogao bi biti preporučen, a njegove interakcije bi nastavile dodavati podatke na platformu..
"Klon" koji lajkuje, komentira i odgovara na poruke
Najneugodniji aspekt dokumenta je to što nije ograničen na javne publikacije. Prema patentu, sistem bi predviđao vještačku inteligenciju. mogu lajkati, ostavljati komentare i odgovarati na privatne poruke kao da su originalni korisniciDrugim riječima, kontakt bi mogao dobiti odgovor u Messengeru, WhatsAppu ili integriranom chatu, a da ne zna da dolazi iz automatiziranog sistema.
Navedeni cilj bi bio smanjiti osjećaj praznine uzrokovan digitalnim nestankom osobeposebno u slučaju smrti. Autori patenta spominju da gubitak online prisutnosti može imati "ozbiljan i trajan" utjecaj na društveno okruženje korisnika; "klon" umjetne inteligencije bi poslužio da popuni tu prazninu nekom vrstom statističke verzije preminulog.
Da bi izgradio taj digitalni avatar, sistem bi detaljno analizirao. sadržaj koji ste konzumirali, vaše uobičajene reakcije, vaše razgovore i način na koji ste komunicirali s različitim ljudimaUz sve ovo, generirao bi profile ponašanja koje bi zatim koristio za odlučivanje šta objaviti ili kako odgovoriti.
Čak i sam patent spominje mogućnost simuliraju složenije interakcije, kao što su video pozivi ili glasovne poruke generirane modelom koji bi oponašao vaš ton i način govora. Iako je ovo predstavljeno više kao teorijska referenca nego kao konkretna funkcija, uklapa se u opći trend industrije prema sve sofisticiranijim rekreacijama.
Ovaj pristup nije jedinstven za Metu: druge tehnološke kompanije, kao što su MicrosoftTakođer imaju patentirane sisteme za Chatbotovi obučeni pomoću objava na društvenim mrežama, fotografija i glasovnih bilješki kako bi rekreirali osobu, uključujući dvodimenzionalne ili trodimenzionalne verzije koje se mogu pojaviti na ekranima ili u virtualnim okruženjima.
Meta se distancira: od ideje na papiru do javnog odbacivanja
Nakon objavljivanja detalja patenta i medijske frenezije koja je uslijedila, Meta je insistirala da nema namjeru razvijati ovu vrstu proizvoda.Glasnogovornik kompanije, citiran od strane Business InsiderTvrdio je da je primjer preminulog korisnika samo ilustrativan slučaj unutar mnogo većeg dokumenta.
Kompanija tvrdi da Patenti nisu planovi za razvoj proizvoda, već način zaštite istraživanja, koncepata ili pristupa. ...što možda nikada neće ugledati svjetlo dana. U ovom slučaju, ideja je navodno registrovana 2023. godine, na vrhuncu procvata generativne umjetne inteligencije, kada je veliki dio sektora bio u režimu "isprobaj sve" kako bi vidio koje primjene novi modeli mogu imati.
Međutim, kontekst se brzo promijenio. U Evropi i Španiji, debata o Prezasićenost sadržaja generiranog umjetnom inteligencijom, dezinformacija, krađe identiteta i zaštite podataka Mnogo je intenzivnije nego što je bilo prije tri godine. Projekti koji su se ranije mogli predstaviti kao inovativni sada se suočavaju s mnogo zahtjevnijom društvenom i regulatornom kontrolom.
Menadžeri drugih kompanija, kao što su MicrosoftTakođer su morali kvalificirati ili javno ograničiti slične ideje. Tim O'Brien, izvršni direktor kompanije za cloud i umjetnu inteligenciju, čak je na društvenim mrežama izjavio da Nisu imali namjeru implementirati svoj patent za "chatbota za preminule osobe"., s obzirom na negativne reakcije.
U međuvremenu, Metin pristup umjetnoj inteligenciji ostaje ekspanzivan: Kompanija promoviše chatbotove, asistente integrirane u svoje aplikacije i generativne sisteme. Uprkos javnim greškama koje su neki od njih napravili, razlika u odnosu na slučaj posthumnih "klonova" je u tome što je ovdje sukob sa društvenim senzibilitetom mnogo očigledniji.
Posao s pažnjom: zašto su neaktivni računi problem za platforme
Osim morbidne znatiželje koju ideja može izazvati, patent otkriva osnovnu logiku: U poslovnom modelu zasnovanom na korisničkoj službi, neaktivan račun je nedovoljno iskorištena imovina.Godinama je Facebook prikupljao profile ljudi koji su prestali koristiti mrežu ili su umrli, stvarajući ogromno "digitalno groblje" unutar platforme.
Sa poslovne tačke gledišta, ti računi Više ne generiraju nove objave, komentare ili podatke.i stoga prestaju doprinositi algoritmima za preporuke i mašini za oglašavanje. Vještačka inteligencija koja održava profil aktivnim ponovo bi aktivirala taj tok informacija, čak i ako je to samo sintetički slučaj.
Stručnjaci za digitalno pravo, kao što su Edina Harbinja (Univerzitet u Birminghamu), ističu da ove vrste prijedloga odgovaraju na vrlo jasan podsticaj: produžiti proizvodnju sadržaja i podataka čak i nakon smrtiŠto je više interakcija, to platforme imaju više materijala za napajanje svojih AI sistema i prodaju ciljanog oglašavanja.
Metafora je jednostavna: to bi bilo kao da trgovina drži svjetla upaljena, a izlog pun iako je vlasnik davno umro. tako da spolja izgleda kao da je sve isto.Problem je što je u ovom slučaju "prodavnica" identitet osobe, a kupci su prijatelji, porodica i poznanici koji možda ne znaju da komuniciraju sa simulacijom.
U Evropi, gdje je Opšta uredba o zaštiti podataka (RGPD) Postavio je visoke standarde privatnosti, ova vrsta intenzivne upotrebe ličnih podataka nakon smrti došla bi u sukob s principima kao što su minimizacija, ograničavanje svrhe ili pravo na jasne i razumljive informacije.
Tuga i mentalno zdravlje: Da li održavanje profila "živim" pomaže ili odmaže?
Jedna od najosjetljivijih tačaka ima veze sa Kako činjenica da preminula osoba ostaje "aktivna" na društvenim mrežama utiče na proces tugovanja?Psihološki, oproštaj podrazumijeva prihvatanje da komunikacija više nije moguća, a to se direktno sukobljava s idejom nastavka primanja poruka ili reakcija koje kao da dolaze od pokojnika.
Sociolozi kao što su Joseph DavisSa Univerziteta u Virdžiniji podsjećaju nas da postoje granice koje se ne smiju prelaziti: «Neka mrtvi budu mrtvi„Ne radi se o zabrani digitalnih sjećanja, već o tome da se ne pretvore u iluziju umjetnog kontinuiteta“, sažeo je u izjavama koje je prenijela specijalizirana štampa.
Trenutno, platforme poput Facebooka dozvoljavaju pretvoriti račun u memorijalni status, gdje je sadržaj sačuvan, ali nema novih aktivnosti.Mnoge porodice koriste ove profile kao mjesto za odavanje počasti, dijeljenje uspomena ili određenih poruka, znajući da se niko neće javiti na drugom kraju linije.
Prijedlog zasnovan na umjetnoj inteligenciji uvodi ključnu razliku: Više ne govorimo o očuvanju onoga što je postojalo, već o generiranju novog sadržaja u ime nekoga ko ne može izraziti mišljenje.Za neke ljude, primanje automatskog "lajkova" ili komentara s tog profila može biti utješno; za druge, izvor nevolje ili zbunjenosti.
Čak je i Mark Zuckerberg priznao da se nalazimo na nejasnoj teritoriji. U razgovoru s podkasterom Lexom Fridmanom, osnivač Mete govorio je o mogućnosti korištenje digitalnih avatara za oživljavanje uspomena i pružanje podrške tokom procesa tugovanjaAli je također priznao da bi psihološki utjecaj mogao biti "nezdrav" i da bi ga trebalo pažljivo proučiti.
Pravni i etički okvir u Evropi: saglasnost, podaci i ograničenja
Sa pravnog stanovišta, sistem koji objavljuje u ime preminulih osoba otvara pravi lavirint. Prvo veliko pitanje je informirani pristanakDa li je dovoljno da korisnik prihvati generičke uslove korištenja ili bi bilo potrebno posebno, jasno i opozivo ovlaštenje dok je živ?
U zemljama poput Španije, zakonodavstvo priznaje određene prava nad ličnim podacima preminulih osobaOva prava mogu ostvarivati članovi porodice ili određene osobe. Nadalje, GDPR zahtijeva da svaka obrada podataka ima čvrstu pravnu osnovu i određenu svrhu. Korištenje godina privatnih razgovora za obuku "klona" umjetne inteligencije za interakciju nakon smrti teško bi ispunilo ove zahtjeve.
Također dolazi u obzir privatnost treće stranePoruke i fotografije korištene za obuku modela ne pripadaju samo preminulom korisniku, već i ljudima koji su s njim komunicirali. Te druge osobe bi imale šta reći o tome da li pristaju da se njihove riječi i slika koriste za napajanje automatiziranog sistema.
Evropske vlasti već dugo upozoravaju na opasnost od deepfakeovi i krađa identitetaMogućnost kreiranja avatara preminulih osoba dodaje se drugim već vidljivim problemima, kao što su manipulisani video snimci poznatih ličnosti ili neovlaštene rekreacije glumaca i javnih ličnostiTo je oštro kritikovala njegova porodica.
Slučajevi poput ovog Zelda WilliamsKćerka glumca Robina Williamsa, koji je javno osudio korištenje AI modela za oživljavanje njenog oca u lažnim snimcima, ističe... emocionalni uticaj koji ove rekonstrukcije imaju na porodiceČak i ako je namjera odati počast, gledanje voljene osobe digitalno "uskrsnule" bez kontrole može se osjećati kao invazija.
Druge kompanije koje se igraju s digitalnim životom nakon smrti
Ideja održavanja digitalnog prisustva preminule osobe nije jedinstvena za Metu. Posljednjih godina pojavile su se i druge inicijative. projekti i kompanije koje eksperimentišu sa chatbotovima i avatarima preminulih, sa različitim stepenom sofisticiranosti i rizika.
Usluge poput Here After Zasnovani su na glasovnim snimcima, intervjuima i multimedijalnom materijalu koji je osoba obezbijedila tokom svog života, kako bi Napravite asistenta za razgovor kojeg članovi vaše porodice mogu koristiti nakon vaše smrtiPristup je predstavljen kao vrsta "interaktivne arhive", a ne kao autonomna simulacija koja nastavlja s objavljivanjem bez kontrole.
Na drugoj krajnosti, kineske kompanije poput Silicijumska inteligencija Otišli su dalje rekreirajući digitalni avatari preminulih osoba s njihovim glasom i izgledomkoristeći tehnologije slične onima koje koriste virtuelni influenceri. Jedan od suosnivača je čak objasnio da je koristio ove sisteme da se "ponovno poveže" sa svojom preminulom majkom, tvrdeći da je, kada je razgovarao s tim avatarom, osjećao da je ona i dalje "prava majka".
Ovi primjeri pokazuju da, dok se u Evropi i Sjedinjenim Državama velike firme udaljavaju od projekata koji se smatraju "vrijednim epizode" Black Mirror", u drugim kulturnim okruženjima Etička barijera se pomiče i doživljava se bez toliko ograničenja.Diskusija nije samo tehnološka, već duboko društvena i filozofska.
Paralelno s tim, upotreba Deepfakeovi s preminulim slavnim ličnostima Za oglašavanje, viralni sadržaj ili kreativne eksperimente, to i dalje podstiče debatu o tome ko ima pravo da kontroliše nečiji lik i glas kada više nisu tu, i koliko dugo.
Digitalni identitet i budućnost: šta radimo sa našim profilima kada nestanemo?
Sva ova debata o Facebookovoj umjetnoj inteligenciji koja bi mogla održavati vaš profil aktivnim nakon vaše smrti zapravo je simptom nečeg većeg: Nismo baš shvatili šta "umiranje" znači na internetu.Naši profili su istovremeno dnevnici, porodični albumi, liste kontakata i kutije sjećanja, a nijedan zakon još nije riješio sva pitanja koja ovo postavlja.
U Španiji i Evropskoj uniji, ljudi počinju pričati o digitalni testamentida se odrede pouzdane osobe za upravljanje računima nakon smrti, pa čak i da se podesi zatvaranje profila po zadanim postavkama, osim ako nije drugačije navedeno. Same platforme sve više nude alate za ovo. konfigurirajte šta bi se trebalo dogoditi s vašim podacima kada više ne možete njima upravljati.
Priča koja stoji iza ovog Meta patenta služi kao podsjetnik da bez jasnih pravila i odluka donesenih tokom života, Prazninu mogu popuniti automatizirana rješenja koja možda niko nije tražio.Iskušenje produženja aktivnosti računa kako bi oni nastavili generirati podatke i pažnju postoji, a jedini pravi zaštitni zid su etička, pravna i društvena ograničenja koja smo u stanju nametnuti.
U konačnici, pitanje nije samo da li vještačka inteligencija može oponašati vaš stil pisanja nakon vaše smrti, već Ako želimo da se to uradi, ko ima pravo da odluči i sa kojim garancijama?Postoji ogromna razlika između očuvanja vjernog zapisa o tome ko smo bili i dopuštanja robotu da preuzme naše digitalne živote, a ono oko čega se složimo u narednim godinama definisaće kako živimo - i kako umiremo - na društvenim mrežama.