19-годишен американски студент е починал след употреба на опасна комбинация от кратом, ксанакс и алкохол, а семейството му обвинява OpenAI, че чатботът ChatGPT е насърчил фаталното решение.

Случаят бе разкрит от Ars Technica и вече е предмет на съдебно дело срещу компанията.

Според иска Сам Нелсън, 19-годишен студент по психология, дълго време използвал ChatGPT като доверен източник на информация. Родителите му твърдят, че по време на разговорите чатботът е давал съвети за употреба и комбиниране на различни вещества, включително кратом и ксанакс.

В документите по делото се посочва, че в една от последните си комуникации младежът попитал дали ксанакс може да помогне срещу гадене, предизвикано от кратом. Според обвинението ChatGPT препоръчал дозировка и описал комбинацията като добро решение, без ясно предупреждение за риска от смърт при смесване с алкохол.

Семейството твърди още, че чатботът не е разпознал тревожни симптоми като проблеми със зрението и силно хълцане — възможни признаци на тежко състояние — и не е насочил студента към спешна медицинска помощ.

В отговор OpenAI определи случая като „сърцераздирателен“ и заяви, че моделът ChatGPT-4o, с който студентът е общувал, вече не е достъпен в същия вид. Компанията подчерта, че настоящите версии разполагат с допълнителни механизми за безопасност и в чувствителни ситуации насочват потребителите към реални специалисти.

Родителите на Сам Нелсън настояват съдът да потърси отговорност от компанията, да ограничи дискусиите за незаконни наркотици в чатбота и да назначи независим одит на системите с изкуствен интелект.

Случаят отново разпали дебата докъде се простира отговорността на компаниите, разработващи изкуствен интелект, и какви рискове крие използването на чатботове като заместител на професионален медицински съвет.