Текстовете, създавани с ChatGPT и Codex в Европейския съюз, ще започнат да получават невидим воден знак. Промяната предстои през следващите седмици и ще обхване поддържаните текстови отговори за потребители във всички абонаментни планове, включително в България.

OpenAI обяви решението на 5 октомври като част от изпълнението на европейските изисквания за машинночетимо обозначаване на съдържание, генерирано с изкуствен интелект. При старта мярката за ChatGPT и Codex ще се прилага само в ЕС. Клиентите на програмния интерфейс API по света вече могат да включват маркирането доброволно за определени модели. 

Технологията се нарича textGrain и вгражда статистически модел в избора на думи. Читателят няма да вижда обозначението. В текста не се добавят скрити символи, невидими интервали или необичайна пунктуация. Специализиран детектор може да търси заложената закономерност, включително след някои редакции. 

Проверката обаче има съществени ограничения. В един от тестовете на компанията замяната на 10% от думите със синоними понижава откриването на водния знак от около 92% на 66%. При замяна на една четвърт от думите резултатът пада до 17%. Данните са от конкретно изпитване с английски текстове и не гарантират същата успеваемост при други езици. 

Кратките отговори и програмният код също са по-трудни за надеждно маркиране и разпознаване. Преводът и същественото пренаписване могат да отслабят сигнала, докато обикновеното копиране на непроменен текст се очаква да го запази. 

Водният знак няма да показва кой е използвал ChatGPT или колко от текста е написал човек. Той няма да установява собственост и няма да удостоверява достоверността на съдържанието. Липсата на открит знак също няма да доказва човешко авторство. Заради възможните грешки детекторът първоначално ще бъде достъпен само за одобрени изследователи и експертни организации. 

Сред посочените от OpenAI изследователски партньори е и проф. Мартин Вечев, професор в ETH Zurich и научен директор на българския институт INSAIT. Партньорите ще проучват възможностите и ограниченията на технологията.