Системите за сигурност на ChatGPT помогнаха да бъде разкрит план за изнасилване и убийство на 21-годишна жена във Флорида. Заплахите били отправени от бившия ѝ приятел, 25-годишния Дарън Шида Джоу, тогавашен финансов анализатор в Goldman Sachs.

Младият мъж подробно описвал пред чатбота намеренията си, след като жената прекратила шестмесечната им връзка. В съобщенията, запазени като доказателства по делото, той написал: „Ще я убия до края на месеца“ и „Ако аз не мога да я имам, никой няма да я има“.

Разговорите започнали през март 2026 г. Първоначално Джоу споделял подробности за раздялата, интересите на бившата си приятелка и ревността си към мъжете около нея. Постепенно съобщенията прераснали в конкретни заплахи и планиране на нападение.

Според съдебните документи той възнамерявал да причака младата жена на паркинга пред фитнеса ѝ с цветя. Ако тя откажела да се съберат отново, планирал да я застреля, а след това да сложи край и на собствения си живот. В други съобщения описвал сексуално насилие и убийство, като заплахите впоследствие обхванали и членове на семейството ѝ.

Автоматичните системи на OpenAI маркирали разговорите като потенциална заплаха за живота на друг човек. Съдържанието било предадено за проверка на специализиран екип, а след човешки преглед компанията изпратила сигнал до ФБР.

Федералните агенти предоставили на шерифската служба в окръг Палм Бийч записи от два месеца разговори. Те съдържали съобщенията на Джоу, но не и отговорите на ChatGPT.

Разследващият полицай преценил, че написаното не представлява просто емоционални изблици, а показва последователно обмисляне и подготовка на престъпление.

Служители на реда посетили 21-годишната жена в дома ѝ в Лейк Уърт Бийч. Тя разказала, че прекратила връзката по телефона, защото се страхувала от реакцията на Джоу, когото описала като непредсказуем, ревнив и контролиращ, пише в разследването си The Palm Beach Post, разпространено от USA Today Network.

След раздялата той продължил да я преследва с обаждания, съобщения и контакти в социалните мрежи. Използвал и временни телефонни номера, генерирани чрез приложения, след като жената блокирала предишните му контакти. Тя запазила множество съобщения със сексуално, унизително и заплашително съдържание.

Джоу е арестуван на 29 май. След два дни в ареста е освободен под гаранция от 100 000 долара.

През юни прокуратурата му повдигнала три обвинения: утежнено преследване, отправяне на писмени заплахи за убийство и незаконно използване на комуникационно устройство за извършване на престъпление. Общото предвидено наказание можело да достигне 25 години затвор.

На 13 август Джоу се признал за виновен и по трите обвинения след споразумение с прокуратурата. Съдия Скот Сускауър приел договореното наказание, след като станало ясно, че пострадалата го одобрява.

Магистратът отложил формалното произнасяне на осъдителна присъда и наложил на Джоу осем години пробация. През първите две години той трябва да носи електронна гривна. Забранено му е да контактува с бившата си приятелка и да притежава огнестрелно оръжие. Освен това трябва да премине през специализирана програма срещу домашното насилие и оценка на психичното си състояние.

При определяне на наказанието са взети предвид чистото му съдебно минало, фактът, че не е притежавал оръжие, както и съгласието на пострадалата със споразумението. Адвокатът му заяви, че Джоу е преживял тежка психична криза.

Goldman Sachs го е освободила от работа след повдигането на обвиненията. По данни от професионалния регистър FINRA той е работил в подразделението за управление на активи и частно богатство на банката от март 2024 г. до юни 2026 г.

OpenAI официално посочва, че при засечени планове за насилие над други хора разговорите могат да бъдат изпратени за човешки преглед. Ако проверяващите установят непосредствена опасност от тежко физическо посегателство, компанията може да сигнализира органите на реда. Политиката е описана от OpenAI.