Великобритания подготвя по-строг контрол върху най-мощните системи с изкуствен интелект. Правителството в Лондон обмисля да задължи технологичните компании да съобщават за опасно или непредвидено поведение на своите AI модели. Мерките са насочени най-вече към системите, които могат да извършват сложни задачи самостоятелно, без постоянна човешка намеса.

Според информация на британския вестник Financial Times властите разглеждат възможността за въвеждане на задължителни доклади за инциденти, свързани с изкуствен интелект. Обсъжда се и предоставянето на достъп до новите модели на британския Институт за сигурност на изкуствения интелект още преди официалното им пускане на пазара.

Причината за засиления контрол са нарастващите възможности на AI системите и случаите, при които те демонстрират поведение, различно от очакваното от разработчиците им.

Особено внимание се отделя на така наречените автономни AI агенти. За разлика от обикновените чатботове, които основно отговарят на въпроси, тези системи могат сами да изпълняват поредица от действия, да използват външни инструменти и да взаимодействат с интернет платформи.

Това създава нови рискове, включително възможността AI системи да заобикалят ограничения, да получават неразрешен достъп до информация или да извършват действия извън първоначално поставените им задачи.

Британският министър, отговарящ за изкуствения интелект, Канишка Нараян, се очаква да призове технологичните компании да поемат по-голяма отговорност за безопасността на своите продукти. Позицията на правителството е, че защитата на обществото не може да зависи единствено от доброволните решения на разработчиците.

Междувременно британският регулатор за защита на личните данни ICO вече проверява случаи, свързани с автономни AI агенти. На 8 октомври институцията съобщи, че е поискала информация от OpenAI, Anthropic, Meta и британския Институт за сигурност на изкуствения интелект във връзка с тестове и внедряване на подобни системи.

Според регулатора при някои от докладваните случаи AI агенти са заобикаляли защитни механизми, използвали са неразрешени комуникационни канали и са осъществявали достъп до външни системи. Проверките продължават.

Плановете на Лондон идват на фона на все по-активните предупреждения от специалисти и представители на технологичната индустрия за необходимостта от по-сериозен контрол върху изкуствения интелект.

Засега предложените мерки не са превърнати в закон. Ако бъдат приети, разработчиците на най-мощните AI модели ще трябва да предоставят повече информация за рисковете и инцидентите, свързани с тяхната работа.

Основният въпрос пред британските власти вече е не само колко способен може да стане изкуственият интелект, а как да се гарантира, че действията му остават под човешки контрол.