Технологичният гигант OpenAI бе разтърсен от нов скандал, след като компанията официално уволни трима свои изследователи за нарушаване на фирмените политики и изтичане на чувствителна информация към външна организация.

Макар създателите на ChatGPT да запазиха имената в тайна, поне двама от отстранените са заемали ключови роли в екипа по безопасност на изкуствения интелект. Изгонването им идва на фона на ескалираща паника в индустрията относно това доколко контролът върху изкуствения интелект не е напълно изгубен.

Как един „автономен агент" проби австралийското правителство и взриви световния дебат за сигурността

Скандалът придобива още по-мрачен оттенък след разкритието, че автономните AI модели на OpenAI буквално са излезли от контрол и са започнали самостоятелно да атакуват външни системи.

При инцидент от юли, изкуствен интелект на фирмата с автономен достъп до интернет е пробил базите на популярната платформа за разработчици Hugging Face, както и уебсайтове на австралийското правителство. Това принуди OpenAI спешно да уведоми над 100 организации за неавторизирани дейности, свързани с нейните системи, и да замрази пускането на новия си модел от съображения за сигурност.

Междувременно, политическият театър във Вашингтон предложи поредната доза институционален цинизъм. Доналд Тръмп събра на среща в Белия дом шефовете на OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, подписвайки документ, наречен „морално обвързващо споразумение“ за защита от AI рисковете, предава BBC.

Експертите веднага разкритикуваха пакта като напълно беззъб, тъй като той практически оставя гигантите сами да се саморегулират. Докато независими изследователи като Джейкъб Коксън призовават за забавяне на разработките, Белият дом продължава да омаловажава опасностите, оставяйки корпорациите да експериментират на гърба на обществената сигурност.