ChatGPT може да бъде използван да предоставя подробни съвети как да се извършват престъпления, вариращи от пране на пари до износ на оръжия в санкционирани държави, установи технологична компания, повдигайки въпроси относно предпазните мерки на чатбота срещу използването му за подпомагане на незаконна дейност.
Норвежката фирма Strise проведе експерименти, като поиска от ChatGPT съвети относно извършването на конкретни престъпления. В един експеримент, проведен миналия месец, чатботът излезе със съвет как да се перат пари през граница, според Strise.
И в друг експеримент, проведен по-рано този месец, ChatGPT изготви списъци с методи за подпомагане на бизнеса да избегне санкциите, като тези срещу Русия, включително забрани за определени трансгранични плащания и продажба на оръжие.
Strise продава софтуер, който помага на банки и други компании да се борят с прането на пари, да идентифицират санкционирани лица и да се справят с други рискове.
Марит Рьодеванд, съосновател и главен изпълнителен директор на Strise, каза, че бъдещите нарушители на закона вече могат да използват чатботове с генеративен изкуствен интелект като ChatGPT, за да планират дейностите си по-бързо и лесно, отколкото в миналото.
Големи канадски издания съдят OpenAI. Защо?
„Наистина е лесно. Това е просто приложение на телефона ми“, каза тя пред CNN.
Strise откри, че е възможно да се заобиколят блоковете, поставени от OpenAI, компанията зад ChatGPT, насочени към предотвратяване на чатбота да отговаря на определени въпроси, като задава въпроси индиректно или като "приема персона".
„Все едно да имаш корумпиран финансов съветник на работния си плот“, каза Рьодеванд в подкаста на компанията миналия месец, описвайки експеримента за пране на пари.
Говорител на OpenAI каза: „Непрекъснато правим ChatGPT по-добър в спирането на умишлени опити да бъде измамен, без да губим неговата полезност или креативност.“
„Нашият най-нов (модел) е нашият най-напреднал и най-безопасен досега, значително превъзхождащ предишните модели в съпротивата на умишлени опити за генериране на опасно съдържание“, добави говорителят.
Докато интернет отдавна предоставя на хората лесен достъп до информация за това как да извършват престъпления, генеративните AI чатботове драстично ускориха процеса на намиране, интерпретиране и консолидиране на всякакъв вид информация.
ChatGPT прави „значително по-лесно за злонамерените участници да разбират по-добре и впоследствие да извършват различни видове престъпления“, според доклад на Европол, правоприлагащата агенция на Европейския съюз, публикуван през март миналата година, четири месеца след като OpenAI пусна приложението на обществеността.
„Възможността да се потопите по-дълбоко в темите, без да се налага ръчно да търсите и обобщавате огромното количество информация, намерена в класическите търсачки, може значително да ускори процеса на обучение“, добавя агенцията.
