Майката на едно от децата на Илон Мъск заведе дело срещу неговата компания за изкуствен интелект xAI, твърдейки, че чатботът Grok е позволил на потребители да създават сексуално експлоатационни фалшиви изображения (deepfakes) на нея, което ѝ е причинило унижение и сериозен емоционален стрес.

27-годишната Ашли Сейнт Клер, която се описва като писателка и политически стратег, е подала иск в четвъртък във Върховния съд на щата Ню Йорк срещу xAI. В съдебните документи тя твърди, че чрез Grok са били генерирани изображения, които включват нейна снимка на 14-годишна възраст – напълно облечена – впоследствие манипулирана така, че да я показва по бикини. Други изображения я представяли като възрастен човек в силно сексуализирани пози, включително по бикини със свастики. Сейнт Клер е еврейка.

Grok е интегриран в социалната платформа на Мъск X. Адвокатите на xAI не са отговорили веднага на изпратените в петък имейли с искане за коментар. В сряда X обяви, че след глобална негативна реакция заради сексуализирани изображения на жени и деца, Grok вече няма да може да редактира снимки, за да изобразява реални хора в разголени дрехи в юрисдикции, където това е незаконно.

На въпрос относно делото и изложените в него твърдения, xAI е отговорила единствено с фразата „Лъжи от миналото на медиите“ в имейл до Associated Press.

Сейнт Клер заявява, че е започнала да сигнализира X за появата на deepfake изображенията още миналата година и е поискала те да бъдат премахнати. По думите ѝ първоначалният отговор на платформата бил, че изображенията не нарушават правилата ѝ. По-късно X обещала да не допуска използването или модифицирането на нейни изображения без нейното съгласие.

Въпреки това, според Сейнт Клер, платформата е „отвърнала на удара“, като е премахнала премиум абонамента ѝ и отметката за потвърждение, ограничила е възможността ѝ да печели от акаунта си с около 1 милион последователи и е продължила да допуска разпространението на унизителни фалшиви изображения.

„Претърпях и продължавам да страдам от сериозна болка и психически стрес в резултат на ролята на xAI в създаването и разпространението на тези дигитално променени мои изображения“, се казва в документ, приложен към иска. „Унизена съм и чувствам, че този кошмар никога няма да спре, докато Grok продължава да генерира тези мои изображения.“

Тя допълва, че живее в постоянен страх от хората, които гледат нейните deepfake изображения.

Сейнт Клер е майка на 16-месечния син на Мъск – Ромулус – и живее в Ню Йорк, където първоначално е завела делото. Тя настоява за обезщетение за неразкрита сума за причинен емоционален стрес и други вреди, както и за съдебна заповед, която незабавно да забрани на xAI да допуска създаването на нейни deepfakes.

По-късно същия ден адвокатите на xAI са прехвърлили делото във федералния съд в Манхатън. Паралелно с това компанията е завела насрещен иск срещу Сейнт Клер във федералния съд в Северния окръг на Тексас, твърдейки, че тя е нарушила потребителското споразумение с xAI, според което подобни дела трябва да се водят във федерален съд в Тексас. Компанията също претендира за неразкрито парично обезщетение.

X е базирана в Тексас, където Мъск притежава дом, а Tesla – производителят на електрически автомобили на Мъск – има централа в Остин.

Адвокатката на Сейнт Клер, Кари Голдбърг, определи насрещния иск като „разтърсващ“ ход. „Г-жа Сейнт Клер ще защитава енергично своя форум в Ню Йорк“, заяви тя, добавяйки, че според нея всяка юрисдикция би признала сериозността на твърденията – че чрез създаването на неконсенсуални сексуално откровени изображения на момичета и жени, xAI представлява обществено неудобство и не предлага сравнително безопасен продукт.

В свое изявление X посочи, че въвежда допълнителни предпазни мерки срещу Grok, включително ограничаване на създаването и редактирането на изображения само до платени акаунти с цел по-голяма отчетност. Компанията подчерта, че има нулева толерантност към сексуалната експлоатация на деца, голота без съгласие и нежелано сексуално съдържание и че подобни материали ще бъдат незабавно премахвани и докладвани на правоохранителните органи.