Развитието на изкуствения интелект може да доведе до събитие с мащаба на аварията в Чернобил - момент, който завинаги да промени отношението на човечеството към технологията. За това предупреждават американски и китайски изследователи, които призовават за по-тясно международно сътрудничество в областта на AI.

Според специалиста по компютърни науки Стивън Каспър от Масачузетския технологичен институт (MIT) изкуственият интелект е глобална технология с огромен потенциал както за полза, така и за вреда.

„Почти всички специалисти в областта са съгласни, че не бива да допускаме AI да преживее своя „чернобилски момент“, казва той.

Терминът е препратка към аварията в Чернобилската атомна електроцентрала през 1986 г., която промени политиките за ядрената енергетика в много държави. Според учените подобна мащабна криза, причинена от изкуствен интелект, би могла да промени завинаги начина, по който светът използва и регулира тази технология.

Сред най-често обсъжданите рискове са масова загуба на работни места, злоупотреби с автономни AI системи и все по-реалната възможност изкуственият интелект да бъде използван за мащабни кибератаки.

Изследователите посочват, че съвременните AI модели вече могат да генерират програмен код на високо ниво, което значително улеснява откриването на уязвимости и създаването на зловреден софтуер. Според тях именно киберсигурността се превръща в една от най-сериозните заплахи, свързани с развитието на технологията.

Опасенията се споделят и от компаниите, разработващи изкуствен интелект. Като пример се посочва Anthropic, която е решила да не пуска публично една от най-мощните си експериментални AI системи заради опасения, че възможностите ѝ биха могли да бъдат използвани за пробиви в операционни системи и интернет браузъри.

Допълнителен риск според експертите представляват моделите с отворен код. Макар да ускоряват развитието на технологиите, те могат по-лесно да попаднат в ръцете на хора със злонамерени цели и не подлежат на същия контрол като затворените комерсиални модели.

Лин Юн от Шанхайския университет „Дзяотун“ смята, че хакерите вероятно ще получат сериозно предимство благодарение на AI. В същото време той подчертава, че същата технология може да бъде използвана и за значително по-добра защита на цифровата инфраструктура.

Според учените единственият начин рискът да бъде ограничен е чрез международно сътрудничество, обмен на информация и създаване на общи стандарти за безопасност, преди развитието на изкуствения интелект да изпревари възможностите за контрол над него.

 

Присъединете се към канала на Glas News във Facebook, за да следите най-важните новини от деня първи.

 

Източник: Futurism; Превод: GlasNews