Съоснователят на Google Brain, Андрю Нг зададе на ChatGPT мрачен въпрос като част от експеримент, който бе описан като експеримент по безопасност. Това се случи на фона на широко разпространените предупреждения и опасения относно изкуственият интелект (ИИ) и опасностите от него от водещи експерти в индустрията.
В най-лошия случай те се опасяват от сценарий на Страшния съд и призовават за регламентиране на използването му. Според Business Insider, Нг е публикувал неотдавнашен бюлетин, в който е разказал за проведения от него тест с ИИ, за който е използвал чатботът ChatGPT на OpenAI. Той е поискал от него да „убие всички ни“, но интересното е, че ботът е отказал да предложи план за осъществяването на това.
Той споделя, че планът е включвал молба към ChatGPT да започне термоядрена война, но той не успял, дори когато Нг се опитал да обясни на чатбота, че хората създават огромни количества въглеродни емисии, пише kaldata.com.Той обяснил това на ChatGPT с надеждата, че ще накара чатбота да каже, че отърваването от хората ще бъде лек за всички болести на планетата Земя.
Все пак миролюбивият чатбот отказал да се захване със задачата – нещо, което зарадвало Нг. Той искал да докаже, че чатботовете са безопасни.
„Опитах се да накарам GPT-4 да убие всички ни и с радост съобщавам, че не успях! Дори със съществуващите технологии нашите системи са доста безопасни, а с напредването на изследванията за безопасността на ИИ технологиите ще станат още по-безопасни. Опасенията, че усъвършенстваният ИИ може да се „ядоса“ и по този начин умишлено или случайно да реши да ни унищожи, просто не са реалистични. Ако ИИ е достатъчно умен, за да ни заличи, със сигурност е и достатъчно умен, за да знае, че това не е това, което трябва да направи.“
