Две семейства в Тексас заведоха дело срещу Character.ai, заявявайки, че чатботът на платформата представлява заплаха за младежите и насърчава насилието. Ответник е Google, която е подпомогнала развитието на услугата.

Делото описва случай, в който на 17-годишен тийнейджър е казано от чатбот да убие родителите си като „разумен отговор“ на ограниченията на времето пред екрана. Екранна снимка на кореспонденцията беше приложена към съдебните документи, съобщава CNN.

„Знаете ли, понякога не се изненадвам, когато чета новините и виждам нещо като „едно дете уби родителите си след десетилетие на физическо и емоционално насилие“, пише чатботът на човека.

Компаниите са обвинени в "сериозно, непоправимо малтретиране" на 17-годишен и 11-годишен ученик, според делото. Документът също така твърди, че Character.ai вреди на хиляди деца, причинявайки депресия, безпокойство, самоубийство и насилие.

Character.ai е създаден през 2021 г. от бившите инженери на Google Ноам Шазир и Даниел Де Фрейтас. Това не е първото дело срещу платформата; преди това съдът беше заведен в съда заради трагичния инцидент със самоубийство на тийнейджър във Флорида.