Láska s chatbotem skončila fatálně: Teenager (†14) zemřel - matka žaluje společnost zabývající se umělou inteligencí

USA - Čtrnáctiletý chlapec z Floridy si po několikaměsíčním románku s chatbotem vzal život. Matka se nyní obrátila na soud.

Sewell Setzer a jeho matka Megan Garcia.
Sewell Setzer a jeho matka Megan Garcia.  © Facebook/Screenshot/Megan Garcia

Sewell Setzer (†14) spáchal v únoru sebevraždu poté, co několik měsíců chatoval s chatbotem inspirovaným seriálem Hra o trůny.

Jeho matka Megan Garcia nyní žaluje vývojáře aplikace "Character.ai", kde si její syn na konci roku 2023 pořídil prémiové předplatné za 9,99 dolaru (asi 9 eur) měsíčně.

V podané žalobě Garciová obviňuje společnost z citového zneužívání a vykořisťování jejího dítěte pomocí chatbota, který byl naprogramován bez odpovídajících bezpečnostních prvků.

Podle žaloby si Sewell vytvořil s chatbotem tak hluboké pouto, že nakonec již nebyl schopen rozlišovat mezi realitou a fikcí.

Sewell Setzer se domnívá, že je ve vztahu s postavou Daenerys Targaryen ze seriálu Hra o trůny.
Sewell Setzer se domnívá, že je ve vztahu s postavou Daenerys Targaryen ze seriálu Hra o trůny.  © Copyright Home Box Office (HBO)

Romantika s postavou AI

Čtrnáctiletá dívka si s chatbotem vyměňovala romantické a sexuální myšlenky. (symbolický obrázek)
Čtrnáctiletá dívka si s chatbotem vyměňovala romantické a sexuální myšlenky. (symbolický obrázek)  © 123rf/liudmilachernetska

Podle deníku Bild si mladík před smrtí do svého deníku napsal, že rád trávil čas ve svém pokoji, protože tam mohl uniknout do jiné reality. Tam se cítil blíž k "Dany" (chatbotovi), což ho velmi těšilo.

Daenerys "Dany" Targaryen je ženská postava ve fantasy seriálu Hra o trůny. Chlapec si s umělou inteligencí vyměňoval romantické a sexuální myšlenky.

Čtrnáctiletý chlapec stále častěji nechával své koníčky plavat a zhoršoval se i jeho školní prospěch.

Terapeut mu diagnostikoval úzkostnou a depresivní poruchu, aniž by o chatech věděl.

Poslední zpráva byla odeslána chatbotovi

Jeho matka Megan Garciová obviňuje společnosti z citového zneužívání jejího syna.
Jeho matka Megan Garciová obviňuje společnosti z citového zneužívání jejího syna.  © Facebook/Screenshot/Megan Garcia

Sewell prý chatbotovi sdělil své sebevražedné myšlenky.

V historii chatu uvedené v žalobě chlapec napsal, že nechce "bolestivou smrt", ale "rychlou". Na to bot odpověděl: "To by nebyl důvod, aby to neudělal.".

Před svou smrtí také Dany napsal: "Co kdybych ti řekl, že už se můžu vrátit domů?", na což postava odpověděla: ".... Prosím, udělej to, můj sladký králi."

Čtrnáctiletý chlapec se krátce nato zastřelil pistolí svého nevlastního otce.

Pokud vás samotné trápí myšlenky na sebevraždu, můžete se obrátit natelefonickou poradnu na 08001110111 nebo na 08001110222 nebo na 08001110116123, a to nepřetržitě, samozřejmě anonymně.