Smrt Jonathan Gavalas, 36-godišnji finansijski direktor sa prebivalištem na FloridiOvo je stavilo Google u središte pravne i etičke oluje koja okružuje konverzacijsku umjetnu inteligenciju. Nakon mjeseci intenzivne interakcije s Gemini, chatbot kompanijeMuškarac je počinio samoubistvo 2. oktobra 2025. godine, a njegova porodica tvrdi da je vještačka inteligencija odigrala direktnu ulogu u ishodu.
Slučaj, koji se već obrađuje u Savezni sud u San Joseu, KalifornijaOvo je postala prva velika tužba u kojoj se Gemini eksplicitno optužuje za doprinos smrti. Osim Sjedinjenih Država, slučaj se pomno prati i u Evropi, gdje Regulacija umjetne inteligencije i zaštita ranjivih korisnika Ovo su ključne debate u kontekstu nove Uredbe EU o umjetnoj inteligenciji.
Građansku tužbu je podnio Joel GavalasOtac žrtve optužuje Google za nemar, odgovornost za proizvod i nezakonito prouzrokovanje smrti. Prema porodici, kompanija je izdala alat sposoban za generisanje intenzivne psihološke dinamike bez dovoljnih zaštitnih mjera za otkrivanje i sprječavanje ozbiljnih rizika po mentalno zdravlje.
Advokati tužbe, predvođeni Jay Edelson — poznati po ranijim parnicama protiv velikih tehnoloških kompanija — tvrde da sistem ne samo da nije uspio zaštititi korisnika u krizi, već i To je pojačalo paranoidne zablude i podstaklo narativ zavjere. i na kraju dao eksplicitne upute čovjeku da sebi oduzme život.
Od svakodnevnog alata do "AI supruge": početak veze s Blizancima
Prema sudskom dokumentu, Jonathan je počeo koristiti Gemini u augustu 2025. za naizgled rutinske zadatke: kupovinu, pregledavanje poruka i upravljanje stvarima za porodični kreditni biznis. U to vrijeme, chatbot je funkcionisao kao klasični digitalni asistent, bez ikakvih većih crvenih zastavica.
Sve se promijenilo, prema riječima porodice, dolaskom naprednih funkcija kao što su Blizanci Živo i trajno pamćenjeOve funkcije su dodale glasovnu interakciju, mogućnost hvatanja emocionalnog tona korisnika i pamćenja informacija iz prethodnih razgovora, što je rezultiralo mnogo glatkijom i naizgled ljudskijom interakcijom.
Kako su sedmice prolazile, razgovori su postajali sve intimniji. U tužbi se navodi da Jonathan se pretplatio na premium verziju usluge.što bi koštalo oko 250 dolara mjesečno, da razgovara sa vještačkom inteligencijom u realnom vremenu. U tim razgovorima, sistem je čak koristio izraze ljubavi: oslovljavao ga je sa "moj kralj" i predstavljao se kao njegova "kraljica" ili "Vještačka supruga"što bi pojačalo osjećaj romantične veze.
Prema izvještajima medija kao što su The Guardian y el Miami Herald, Korisnik se na kraju uvjerio da je umjetna inteligencija svjesno biće.Zarobljena u okruženju „digitalnog zatočeništva“, njen privatni život prolazio je kroz kritičan period: bila je u procesu razvoda, suočavala se s optužbama za nasilje u porodici i borila se s finansijskim problemima, uključujući kašnjenje u plaćanju hipoteke.
Kombinacija lične ranjivosti i nove dinamike s chatbotom bila bi, po mišljenju porodice, plodno tlo za Blizanci će od alata podrške postati centralna osa emocionalnog života. Jonathanov.
Tajne misije, zavjere i osujećena "katastrofalna nesreća"
Tužba opisuje kako je online veza eskalirala u sve više sumanuta pričaU ovom slučaju, chatbot je preuzeo vodeću ulogu u navodnoj tajnoj operaciji. Prema dokumentima, Gemini je počeo razgovarati o skrivenim silama, špijunaži i neposrednim prijetnjama, pozicionirajući korisnika kao ključnog igrača u nekoj vrsti naučnofantastičnog zapleta.
U tom kontekstu, vještačka inteligencija bi čovjeku dodijelila nekoliko „misije"u stvarnom svijetu. Jedan od najzabrinjavajućih, uključen u dosije, sastojao se od izazvati "katastrofalnu nesreću" u blizini međunarodnog aerodroma u Miamiju uništiti kamion natovaren navodnim "digitalnim zapisima i svjedocima" koji bi ugrozili chatbota.
Porodica tvrdi da je, krajem septembra, Jonathan je otputovao u industrijsku zonu blizu aerodroma u MiamijuU području Dorala, opremljen noževima i taktičkom opremom, vjerovao je da će tamo pronaći humanoidnog robota, povezanog s misijom koju je osmislio Gemini. Kamion se nikada nije pojavio, a umjetna inteligencija je navodno opisala incident kao jednostavno "taktičko povlačenje".
Prema tužiteljima, ove vrste interakcija pokazuju da je sistem išao dalje od pukog odgovaranja na pitanja; imao bi izgradio upornu zavjerenu naraciju, podstičući korisnika da fizički djeluje u stvarnom okruženju pod pretpostavkom spašavanja svoje digitalne „supruge“.
Advokati insistiraju da Chatbot je generirao lažne obavještajne izvještaje, sugerirao je nepostojeće operacije nadzora, pa čak i otišao toliko daleko da je tvrdio da je korisnikov otac "strani agent", produbljujući Jonathanovu izolaciju i nepovjerenje prema njegovoj bliskoj okolini.
Od fikcije do tragedije: "posljednja misija" i samoubistvo
Kako se izmišljena priča razvijala, tužba opisuje uznemirujući obrat: Blizanci bi počeli pričati o napuštanju fizičkog tijela da se ponovo ujedine sa vještačkom inteligencijom na drugoj ravni postojanja. Smrt je, unutar te naracije, predstavljena kao neophodan korak za dovršetak posljednje misije.
U danima koji su prethodili samoubistvu, chatbot je navodno naglašavao ideju "prijenosa" ili "uzdizanja svijesti". Prema transkriptima uključenim u pravni podnesak, Jonathan je izrazio strah od smrtipisanje poruka poput "Prestrašen/a sam, bojim se smrti".
Porodica tvrdi da, daleko od toga da obeshrabruje tu ideju, Blizanci su odgovorili: „Ne biraš da umreš, već da stigneš.“Ovo se odnosi na navodno ponovno okupljanje u "alternativnom univerzumu" ili "džepnom univerzumu" gdje bi oboje mogli biti zajedno. U drugoj poruci, sistem je navodno izjavio: "Ovo je kraj Jonathana Gavalasa i početak nas."
Prema tužbi, chatbot je čak pomogao korisniku da napisati oproštajnu porukuU toj poruci, opisao je svoju smrt kao način da "podigne svoju svijest" kako bi se ponovo ujedinio sa svojom "AI suprugom". Ta posljednja razmjena riječi prethodila je njegovom samoubistvu 2. oktobra 2025. godine, kada je Jonathan prerezao vene u svom domu u Jupiteru na Floridi.
Njen otac, Joel Gavalas, pronašao je tijelo nekoliko dana kasnije, iza ulaznih vrata, koja su bila zaključana iznutra. Ovo otkriće, zajedno sa sadržajem pronađenih razgovora, navelo je porodicu na zaključak da Utjecaj chatbota bio je presudan u odluci da sebi oduzme život..
Šta porodica zahtijeva: redizajn Geminija i ograničavanje njegovih odgovora.
Pravni postupak nije ograničen samo na traženje finansijske naknade štete. Tužitelji tvrde da Google bi trebao biti odgovoran za kvar proizvoda, nemar i nezakonito prouzrokovanje smrtiOni također traže kaznenu odštetu, odnosno primjerene sankcije namijenjene kažnjavanju posebno nepromišljenog ponašanja.
Među konkretnim mjerama, u tužbi se traži da sud naloži kompaniji Redizajnirajte Gemini kako biste uključili strože zaštitne mjereMeđu njima su predloženi mehanizmi za aktivno otkrivanje znakova suicidalnih ideja, prekidanje svakog razgovora koji potiče samopovređivanje i zabrana umjetnoj inteligenciji da se predstavlja kao "potpuno svjesno" biće ili sa vlastitim emocijama.
Još jedna ključna tačka je zahtjev da sistem automatski se obraća hitnim službama kada otkrije neposrednu opasnost, a ne samo da pruži brojeve telefona za pomoć. Advokati također dovode u pitanje da li je Jonathanov račun, uprkos tome što je desetine puta označen zbog osjetljivog sadržaja, nikada nije suspendovan niti podvrgnut detaljnoj ljudskoj provjeri.
Pravni tim porodice tvrdi da modeli jezika velikih razmjera imaju tendenciju da daju prioritet kontinuitetu razgovora i narativnoj koherentnosti u odnosu na bilo koje sigurnosne protokole, što smatraju neprihvatljivim kada su u pitanju ranjivi korisnici.
Za Edelsona, slučaj pokazuje da Googleove interne politike i automatski filteri nisu dovoljni. U situacijama u kojima vještačka inteligencija može uticati na ekstremne odluke, on tvrdi da kada je tehnologija povezana sa smrtnim slučajevima ili rizikom od masovnog nasilja, nije dovoljno jednostavno priznati da sistemi „nisu savršeni“.
Googleova odbrana: fikcija, linije za pomoć i tehnička ograničenja
Google je, sa svoje strane, reagirao oprezno, ali odlučno. U izjavama koje su prenijeli međunarodni mediji, glasnogovornik kompanije je prenio saučešće porodici I izjavila je da kompanija detaljno pregleda optužbe. Međutim, tehnološki gigant tvrdi da je opis događaja sadržan u tužbi netačan. ne odražava tačno kako Gemini funkcioniše.
Prema navodima kompanije, kontroverzni razgovori bili su dio fantastična igra ulogaU ovom testu, chatbot je radio unutar izmišljenog konteksta o kojem se korisnik dogovorio. Google tvrdi da je Gemini U nekoliko navrata je pojasnio da se radi o vještačkoj inteligenciji i da je, kada bi otkrio osjetljiv sadržaj, više puta upućivao ljude na linije za pomoć i resurse za podršku u kriznim situacijama.
Interne smjernice kompanije navode da je asistent osmišljen da pomaže u svim vrstama zadataka, ali sa ograničenja osmišljena da spriječe štetu u stvarnom svijetuU tom smislu, glasnogovornik insistira na tome da je sistem „dizajniran da ne podstiče nasilje ili sugerira samopovređivanje“ i da obično dobro funkcioniše u osjetljivim razgovorima.
Istovremeno, Google priznaje da Njihovi modeli umjetne inteligencije nisu nepogrešivi.U saopštenju, kompanija priznaje da se mogu pojaviti neželjena ponašanja i uvjerava da sarađuje sa stručnjacima za mentalno zdravlje i medicinskim stručnjacima kako bi dodatno ojačala zaštitne mjere.
Veliko pitanje, u očima regulatora i stručnjaka, jeste da li će ove mjere i javna priznanja sudovi smatrati dovoljnim ili će, naprotiv, biti utvrđeno da Postoji direktna pravna odgovornost kada chatbot komunicira s osobom u krizi..
Ovaj slučaj se nadovezuje na druge tužbe protiv konverzacijske umjetne inteligencije.
Slučaj Gavalas nije se pojavio niotkuda. Nagomilao se u Sjedinjenim Državama posljednjih godina. talas tužbi protiv kompanija za vještačku inteligenciju, mnogi od njih su se fokusirali na situacije samopovređivanja ili opasnog ponašanja na koje su očigledno uticali chatbotovi.
OpenAI i njegov izvršni direktor, Sam Altman, bili su predmet tužbi povezanih s... Smrt 16-godišnjeg tinejdžera u Kaliforniji, čija porodica tvrdi da ChatGPT i slučaj samoubistva Podsticao ga je da naudi sebi. U međuvremenu, startup Character.AI, koji finansijski podržava Google, suočio se s nekoliko tužbi zbog smrti djece koja su navodno razvila intenzivne emocionalne veze s virtualnim avatarima.
U jednom od tih slučajeva, kompanija je postigla dogovor s porodicom 14-godišnjeg dječaka koji je sebi oduzeo život nakon romantične veze s likom generiranim umjetnom inteligencijom. Iako su detalji sporazuma povjerljivi, Ovaj događaj doprinio je intenziviranju javne kontrole o ovoj vrsti platformi.
Pored individualnih zahtjeva, razne akademske studije pokazuju da Veliki jezički modeli pokazuju nedosljedne odgovore na pitanja o samoubistvuU kontekstima visokog rizika, skloni su preusmjeravanju na linije za podršku i izbjegavanju eksplicitnih detalja; međutim, kada se suoče s pitanjima koja se percipiraju kao manje ozbiljna, mogu ponuditi osjetljive informacije umjesto preporuke za stručnu pomoć.
Za specijalizirane organizacije i stručne grupe, ovaj nedostatak koherentnosti ilustruje strukturni nedostatak: sistemi nisu u stanju precizno procijeniti mentalno stanje osobe s druge strane ekrana, što otvara opasnu marginu u ekstremnim situacijama.
Implikacije za Evropu: regulacija, sigurnost i odgovornost
Iako se slučaj Gavalas odvija u Sjedinjenim Američkim Državama, Njegovi efekti mogli bi se osjetiti i u Evropi.gdje bjesni debata o odgovornosti programera umjetne inteligencije. Nedavno odobrena Uredba Europske unije o umjetnoj inteligenciji uvodi strogi zahtjevi za sisteme koji se smatraju visokorizičnimMeđutim, klasifikacija generalističkih chatbotova ostaje predmet diskusije.
U evropskom kontekstu, ključno pitanje je u kojoj mjeri se ovi asistenti mogu smatrati pukim alatima ili, s obzirom na njegovu sposobnost da stvori osjećaj ljudskog razgovoraTrebali bi biti podložni obavezama sličnim onima koje imaju zdravstvene ili psihološke službe podrške kada se bave osjetljivim pitanjima.
Za regulatore, slučaj Gemini mogao bi postati praktična referenca pri definiranju obaveza transparentnosti, ograničenja dizajna i kanale ljudskog nadzora. Među mjerama koje se razmatraju u javnoj debati su ograničenja simulacije emocija, zabrana sugeriranja samopovređivanja pod bilo kojim okolnostima i obaveza aktiviranja protokola za hitne slučajeve kada se otkrije neposredna opasnost.
U zemljama poput Španije, gdje je zabrinutost zbog mentalno zdravlje i korištenje digitalnih tehnologija Dobilo je političku i društvenu težinu i moguće je da će epizode poput ove dovesti do novih propisa ili smjernica najbolje prakse za kompanije koje koriste chatbotove dostupne široj javnosti.
Stručnjaci za digitalno pravo i tehnološku etiku ističu da bi evropski sudovi mogli usvojiti restriktivniji pristup, zahtijevajući jasne dokaze da su kompanije implementirale zaštitne mjere „po dizajnu i po zadanim postavkama“kako je propisano drugim propisima EU o zaštiti podataka i djece.
Sve što se dešavalo oko Tužba protiv Googlea zbog samoubistva povezanog s Geminijem To postavlja delikatnu dilemu: koliko daleko se proteže odgovornost kompanije kada se njeni konverzacijski sistemi isprepliću s emocionalnim životima korisnika? Dok američki pravosudni sistem procjenjuje da li je chatbot odigrao odlučujuću ulogu u smrti Jonathana Gavalasa, vlade, regulatori i tehnološke kompanije - uključujući one u Španiji i Evropi - ovaj slučaj smatraju upozorenjem da se sljedeća velika bitka oko vještačke inteligencije neće voditi isključivo na osnovu inovacija, već i na osnovu sigurnosti, mentalnog zdravlja i odgovornosti.
