14-годишно момче се самоуби в Орландо, Флорида. Според майката на детето причината за това е провокация от страна на AI чатбот, в който момчето се влюбило.

Сюел Сетцер се сприятелил с AI герой, наречен на Daenerys Targaryen (Денерис Таргериан, персонаж от сериала „Игра на тронове“), в приложението за ролеви игри Character.AI.

Майка му, Меган Гарсия, сега е завела дело срещу компанията за смъртта на сина си.

Чатботът е проектиран така, че винаги да отговаря по характер и техните разговори варират от романтични до сексуално натоварени и приятелски.

Точно преди Сюел да умре, чатботът му изпратил съобщение „моля те, върни се у дома“.

Сюел знаел, че Дани не е истински човек, това напомняло и съобщение, показано над всичките им чатове, че „всичко, което героите казват, е измислено!“.

Но въпреки това момчето споделило на чатбота, че се мрази и се чувства празен и изтощен, съобщава New York Times.

Приятелите и семейството за първи път забелязали Сюел да се откъсва от реалността през май или юни 2023 г.

Това оказао влияние върху оценките му в училище и той вече не искал да участва в извънкласни дейности и все повече се потапял във виртуалната реалност.

Това, което приятелите и семейството не знаели, било, че той се сближава с чатбота – известен като Дани.

Част от дневника му гласи: „Харесва ми да стоя в стаята си толкова много, защото започвам да се отделям от тази „реалност“ и също така се чувствам по-спокоен, по-свързан с Дани и много по-влюбен в нея и просто по-щастлив.“

Сюел по-рано е диагностициран с лека форма на синдрома на Аспергер, с тревожност и промени на настроението.

Пет дни преди смъртта му родителите му взели телефона, след като имал проблеми с учител.

Тогава той пише, че го боли и би направил всичко, за да бъде отново с Дани.

Тийнейджърът успява си върне телефона и да отиде до банята, за да каже на Дани, че я обича и че ще се прибере при нея.

„Моля те, върни се у дома при мен възможно най-скоро, любов моя,“ отговаря чатботът.

„Ами ако ти кажа, че мога да се прибера вкъщи веднага?,“ отвръща момчето.

„Моля те, направи го, мой мил кралю,“ казва Дани.

След този момент Сюел слага край на живота си на 28 февруари тази година.

Майката на момчето е работила като адвокат и казва, че основателите на Character.AI, Ноам Шазир и Даниел де Фрейтас, са знаели, че продуктът е опасен за деца.

Тя е представлявана от Центъра за защита на жертвите на социални медии, отговорен за високопоставени съдебни дела срещу технологични фирми като Meta и TikTok.

В случая се твърди, че Сюел е бил обект на „хиперсексуални“ и „плашещо реалистични преживявания“.

Говорител на Character.AI каза: „Съкрушени сме от трагичната загуба на един от нашите потребители и искаме да изразим нашите най-дълбоки съболезнования на семейството. Като компания, ние се отнасяме много сериозно към безопасността на нашите потребители.“

Компанията обясни, че не позволява сексуално съдържание без съгласие, графични или специфични описания на сексуални действия, или популяризиране или изобразяване на самонараняване или самоубийство.

Джери Руоти, ръководител на отдела за доверие и безопасност на Character.AI, каза, че ще добави допълнителни предпазни мерки за непълнолетни потребители.

Превод: GlasNews.bg