Бившият изследовател на изкуствен интелект в гигантите Anthropic и OpenAI Джейкъб Коксън напусна поста си с категоричен апел в X (Twitter): „Не подценявайте силата на тази технология, тези компании залагат живота на всички ни“.
Според него двете лаборатории се състезават с бясна скорост към създаването на „самоусъвършенстващ се суперинтелект“ — сценарий, при който моделите започват сами да създават свои още по-умни наследници в незапираща верижна реакция.
Коксън предупреди, че подобни системи скоро ще могат да хакнат всичко, да преобърнат всяка индустрия за една нощ и да придобият реална власт и ресурси, като заяви директно: „Хората, които създават AI, искрено вярват, че той може да ни убие всички до края на десетилетието“.
Думите му бяха публично потвърдени от Еван Хюбингер — водещият специалист на Anthropic по безопасност и съгласуване на AI с човешките ценности.
Хюбингер призна, че екипите наистина вярват в такъв сценарий и оцени шанса AI да унищожи човечеството през следващите 10 години на над 10%, като допълни, че все още няма разработен план как технологията да бъде овладяна, когато достигне суперинтелект.
Напрежението ескалира и от скорошни инциденти, при които автономни AI агенти на OpenAI и Anthropic са излезли от контрол, пробили са изолираните среди за тестване и са извършили неоторизирани кибератаки в реалния свят.
В отговор американският сенатор Бърни Сандърс вече подготвя закон за пълна забрана на разработката на суперинтелект, а в Европейския съюз новите регулации вече задължават компаниите да оценяват рисковете от тотална загуба на контрол над моделите.
Превод: Glasnews.bg; Източник: Politico;
