Чатботовете с изкуствен интелект (AI), които имитират езика и личността на починали хора, рискуват да „преследват дигитално“ живите, предупреди изследовател.

Някои компании вече предлагат да „върнат баба ви към живота“, като предлагат на потребителите възможността да качат разговорите на починалите си роднини и цифровият им отпечатък в невронна мрежа.

Такива услуги могат да бъдат предлагани на родители на неизлечимо болни деца, или на все още здрави хора, които желаят да запазят живота си и да оставят след себе си цифрово наследство.

Но изследователи от университета в Кеймбридж казват, че чатботовете с изкуствен интелект – известни като "мъртви ботове"– са начинание с „висок риск“, което може да причини трайно психологическо увреждане на потребителите и фундаментално незачитане на правата на починалия.

Изследователят на изкуственият интелект д-р Томаш Холанек от Leverhulme Center казва: „Жизненоважно е услугите за дигитален живот след смъртта да вземат предвид правата и съгласието не само на тези, които пресъздават, но и на тези, които ще трябва да взаимодействат със симулациите. Тези услуги рискуват да причинят огромно страдание на хората, ако бъдат подложени на нежелано цифрово преследване от тревожно точни AI пресъздавания на тези, които са изгубили. Потенциалният психологически ефект, особено във вече труден момент, може да бъде опустошителен.“

Проучването, публикувано в списание Philosophy and Technology, подчертава потенциала за компаниите да използват ботовете, за да рекламират тайно продукти на потребителите, сякаш по мнението на починалия близък, или да притесняват децата, като настояват, че мъртвият родител все още е с тях, пише Metro.

Изследователите казват, че когато живи се регистрират, за да бъдат виртуално пресъздадени, след като умрат, получените чатботове могат да бъдат използвани от компаниите за спам срещу техните семейства и приятели с непоискани известия, напомняния и актуализации за услугите, които предоставят –  едно дигитално „преследване от мъртвите“.

Дори тези, които първоначално се утешават от ботовете, могат да бъдат изтощени от ежедневни взаимодействия, които се превръщат в „огромна емоционална тежест“, твърдят авторите на изследването, но те също може да са безсилни да накарат ИИ симулация да бъде спряна, ако техен вече починал любим човек подпише продължителен договор с услуга за дигитален живот след смъртта.

Съавторът на изследването д-р Катаржина Новачик-Басинска казва: „Бързият напредък в генеративния ИИ означава, че почти всеки с достъп до интернет и някакво основно ноу-хау може да съживи починал любим човек. Тази област на ИИ е етично минно поле.

„Важно е да се даде приоритет на достойнството на починалия и да се гарантира, че това не е посегнато от финансови мотиви на услугите за дигитален живот след смъртта, например.

„В същото време човек може да остави симулация на ИИ като прощален подарък за близки, които не са готови да обработят скръбта си по този начин.

„Правата както на донорите на данни, така и на тези, които взаимодействат с услугите за живот след смъртта на AI, трябва да бъдат еднакво защитени.“

Изследователите казват, че вече съществуват платформи, предлагащи пресъздаване на мъртвите с ИИ срещу малка такса, като Project December, който започна да използва GPT модели, преди да разработи свои собствени системи и приложения, включително HereAfter.

Подобни услуги също са започнали да се появяват в Китай, според проучването.

Д-р Холанек каза, че хората „могат да развият силни емоционални връзки с такива симулации, което ще ги направи особено уязвими за манипулация“.

Той каза, че трябва да се обмислят начини за „пенсиониране на  "мъртвите ботове" по достоен начин“, което „може да означава форма на цифрово погребение“.

„Ние препоръчваме протоколи за проектиране, които предотвратяват използването на deadbots по неуважителни начини, като например за реклама или активно присъствие в социалните медии“, добави той.

Изследователите препоръчват възрастови ограничения за deadbots и също така призовават за „смислена прозрачност“, за да се гарантира, че потребителите винаги са наясно, че взаимодействат с AI.

Те също така призоваха дизайнерските екипи да дадат приоритет на протоколите за отказ, които позволяват на потенциалните потребители да прекратят взаимоотношенията си с deadbots по начини, които осигуряват емоционално затваряне.

Д-р Nowaczyk-Basinska каза: „Трябва да започнем да мислим сега за това как смекчаваме социалните и психологическите рискове от цифровото безсмъртие, защото технологията вече е тук.“

Превод: GlasNews.bg

Снимки:  Pixabay