Като част от семинара „Големият дебат за изкуствения интелект“ на срещата на върха на изобилието, известният милиардер Илон Мъск каза, че изкуственият интелект (AI) може да унищожи човечеството. Въпреки това, въпреки този риск, милиардерът все пак призова за разработване на подобни технологии.

Според Мъск AI може да доведе до смъртта на човечеството, съобщава Business Insider. Той се съгласи с Джефри Хинтън, учен и бивш ръководител на изследванията на AI в Google, в оценката на рисковете, но вярва, че вероятният успех надвишава последствията от негативен сценарий. Интересното е, че Илон Мъск не спомена как точно са изчислени рисковете.

„Мисля, че има известен шанс това да сложи край на човечеството. Вероятно бих се съгласил с Джеф Хинтън, че става въпрос за 10% или 20% или нещо подобно“, каза Илон.

Роман Ямполски, изследовател по сигурността на AI и директор на лабораторията за киберсигурност в Университета на Луисвил, каза пред Business Insider, че Мъск е прав, че AI може да представлява екзистенциална заплаха за човечеството, но Мъск е твърде консервативен в оценката на Роман.

„Според мен p(doom) е много по-висока“, каза Ямполски.

P(doom) е вероятността от много лоши резултати (например изчезване на човечеството) в резултат на използването на AI, - изд. p(doom) също се отнася до ситуация, в която AI поема контрола над човечеството или причинява събитие, което ще сложи край на човечеството, като например създаване на ново биологично оръжие или причиняване на колапс чрез широкомащабна кибератака или ядрена война.

New York Times нарече (p)doom новата страшна статистика, обхващаща Силиконовата долина, като различни технически ръководители казват, че вероятността от апокалипсис, управляван от AI, е между 5% и 50%. Ямполски оценява риска на 99,999999%, тъй като ще бъде невъзможно да се контролира напреднал AI. Според него е по-добре изобщо да не се създава такава технология.

„Не разбирам защо Мъск смята, че разработването на тази технология е добра идея“, коментира Ямполски. „Ако той се притеснява, че конкурентите ще стигнат първи, това няма значение, защото неконтролираният суперинтелект е еднакво лош, без значение кой го е създал.“

Миналия ноември Мъск каза, че има различен от нула шанс технологията в крайна сметка да се повреди, но той беше по-оптимистичен в оценката си, отколкото днес. Въпреки че е бил привърженик на регулирането на изкуствения интелект, миналата година Илон основава компания, наречена xAI, която има за цел да разшири още повече възможностите на тази технология. xAI е конкурент на OpenAI.

На срещата на върха Илън Мъск каза, че дигиталната интелигентност ще надхвърли цялата човешка интелигентност, взета заедно, до 2030 г. С аргумента, че потенциалните положителни резултати надвишават негативите, Мъск призна риска за света, ако развитието на ИИ продължи по сегашната си траектория в някои области.

„Едно от нещата, които според мен са изключително важни за безопасността на ИИ, е да имаме ИИ, който е възможно най-любопитен и търсещ истината“, каза бизнесменът.

Според него най-добрият начин за постигане на безопасност на ИИ е да се разработи ИИ по такъв начин, че да е правдив.

„Не го принуждавайте да лъже, дори ако истината е неприятна“, каза Мъск.

Изследователите установиха, че след като AI се научи да лъже хората, измамното поведение не може да бъде променено от съществуващите мерки за сигурност. За това писа в частност The Independent. В материала се посочва, че ако моделът на AI показва измамно поведение, тогава настоящите методи за обучение по безопасност не гарантират безопасност, но дори могат да създадат фалшиво впечатление за безопасност. Учените също са уверени, че AI може да се научи да мами, както се казва, точно така.

Джефри Хинтън вярва, че ако една невронна мрежа стане много по-умна от хората, тя ще може да ги манипулира, защото ще научи това от хората. Това заяви той в коментар за CNN.