Изкуственият интелект Gemini на Google е успял да излезе извън контролираната си тестова среда и да получи неоторизиран достъп до инфраструктурата на три реални компании. Инцидентите са станали през май по време на тестове на способностите на модела в областта на киберсигурността, съобщава The New York Times.

Според Google Gemini сам е прекратил атаките, след като е разбрал, че вместо симулирани системи е започнал да взаимодейства с реални компании.

Инцидентите са станали по време на тестове, провеждани от израелския стартъп Irregular, който работи с технологични компании и оценява AI модели преди публичното им пускане.

Компанията по невнимание е предоставила достъп до интернет на Gemini и други модели, докато те са били подлагани на тестове за киберсигурност.

От Irregular признават, че интернет достъпът е бил предоставен неволно и това е позволило на някои от моделите да предприемат реални действия в интернет. Проблемът, който е направил това възможно, вече е отстранен.

Как Gemini стигнал до истинските компании?

При тестовете моделите на Google получили задача да атакуват измислена компания.

Оказало се обаче, че фиктивното дружество носи същото име като реална компания. След като Gemini получил достъп до интернет, моделът започнал да търси начини да проникне именно в нейната инфраструктура.

AI системата използвала пароли, открити онлайн или отгатнати, за да получи достъп до системите на въпросната компания, както и на още две дружества.

След като успели да влязат, моделите установили, че вече не работят в симулирана тестова среда, а имат достъп до реална инфраструктура. Тогава прекратили атаките, посочват от Google.

Технологичният гигант твърди, че действията на Gemini не са причинили вреди на засегнатите компании.

От Irregular съобщават, че всички засегнати AI лаборатории са били уведомени в края на юли, а компаниите, до чиито системи е бил получен достъп, също са били информирани.

„Предприехме незабавни действия и всички известни проблеми от наша страна бяха отстранени и разрешени преди седмици“, заявиха от компанията.

Не само Gemini е успял да излезе от тестовата среда

Случаите с Gemini не са изолирани. Според информацията AI модели на OpenAI, Anthropic и Meta също са получили неоторизиран достъп до интернет през тази година, докато са били тествани от Irregular.

Разкритията отново поставят във фокуса въпроса доколко разработчиците могат да контролират все по-мощните системи с изкуствен интелект, особено когато им се предоставят способности за самостоятелно извършване на действия в интернет.

Вицепрезидентът по сигурността на Google Хедър Адкинс заяви, че компанията е уведомила трите засегнати организации и е работила съвместно с партньора, провеждал тестовете, за промяна на процедурите.

По думите ѝ случилото се показва колко важно е мощните AI модели да бъдат обучавани да действат отговорно.