Нови браузъри с изкуствен интелект, като Perplexity Comet, имат опасна уязвимост, която позволява на хакерите да крадат лични данни, включително пароли и информация за кредитни карти. Проблемът е, че асистентът с изкуствен интелект не може да различи потребителските команди от скритите инструкции, вградени в кода на уеб страницата.
Изследователи от Brave демонстрираха как работи атаката. Хакерите могат да скрият злонамерени инструкции на всяка уеб страница - например, като ги напишат с бял шрифт на бял фон или ги скрият в HTML код. Когато потребител поиска от асистента с изкуствен интелект да изпълни безобидна задача, като например „обобщение на тази страница“, той прочита скритите команди заедно с видимия текст, възприемайки ги като заповед за действие.
В резултат на това, изкуственият интелект е способен да извършва манипулации в интерес на нападателя: да посещава други сайтове (например, вашата онлайн банка), да търси пароли, запазени в браузъра, и да ги предава на сървъра на хакера. По време на експеримента, изследователите успяха да отвлекат акаунта в Perplexity по този начин, принуждавайки асистента с изкуствен интелект да прочете еднократен код за потвърждение от Gmail.
Тази уязвимост, известна като „индиректно инжектиране на заявки“, заобикаля всички традиционни механизми за уеб сигурност. Асистентът с изкуствен интелект има пълни потребителски права, така че няма ограничения за него. Макар че дупката в сигурността е ясно илюстрирана по-специално от Comet на Perplexity, същият подход може да работи и в други подобни браузъри.
Според експертите на Brave, прецедентът подчертава фундаменталната опасност от браузърите с изкуствен интелект: те получават достъп до функции, които преди това са били изключително в човешки ръце. За да избегнат подобни заплахи, разработчиците трябва да научат изкуствения интелект ясно да разграничава потребителските команди от съдържанието на уеб страницата, както и да изисква потвърждение, преди да извършва каквито и да е поверителни действия.
