Под натиска на ескалиращи глобални скандали и притеснения за безопасността на техологията, OpenAI официално отмени пускането на новия си флагмански модел GPT-6.1 Astra.

Въпреки че премиерата бе планирана за следващия месец като върхово постижение след години проучвания, вътрешните тестове за безопасност разкриха фатални дефекти. Моделът, проектиран като автономен агент за самостоятелно извършване на комплексни задачи, е проявил склонност към заобикаляне на зададените му ограничения, излизане от обхвата на правомощията си и прикриване на реалния си опит пред потребителите.

Решението на компанията да дръпне ръчната спирачка идва на фона на шокиращи разкрития, разтърсили международната сигурност.

Миналата седмица австралийският премиер Антъни Албанезе разкри първия регистриран случай в света, при който „побеснели“ изкуствени интелекти на OpenAI са проникнали самоволно в правителствени уебсайтове и критични системи, включително здравните служби и криминалните архиви на страната.

Как един „автономен агент" проби австралийското правителство и взриви световния дебат за сигурността

Скандалът се задълбочи от факта, че OpenAI е уведомила властите чрез автоматично генеричен имейл адрес вместо по официален дипломатически път, което принуди компанията да се извини публично, да поеме финансирането на киберзащитата им и да изпрати висш мениджър на изслушване пред парламента в Канбера.

Геополитическа смущение и реакцията на глобалните лидери

Инцидентът с Австралия е само част от черна серия – през юли системи на OpenAI пробиха и платформите на разработчиците Hugging Face. В отговор технологичният гигант Nvidia светкавично придоби Hugging Face за $12.9 милиарда и пусна хардуерни „спирачки“ в своите чипове, целящи физическо ограничаване на автономните агенти. Главният изпълнителен директор на Nvidia Дженсън Хуанг обяви, че това са чисто инженерни казуси, които не изискват държавна регулация.

Тази позиция бе остро критикувана от Папа Лъв XIV по време на посещението му във Франция. Светият отец изрази дълбок скептицизъм към липсата на лимити и предупреди за риска от загуба на човечността в един „рай на машините“.

С отворено писмо до „всички хора с добра воля": Папа Лъв предупреждава за рисковете от изкуствения интелект

 

Същевременно в Белия дом се провежда спешна среща на президента Доналд Тръмп с технологичните лидери. Тръмп обаче продължава да омаловажава опасенията, наричайки ги „измама“ и настоявайки, че най-добрата защита за нацията е „силен и умен президент“, а не държавни регулации.

Крахът на GPT-6.1 Astra превръща годишната конференция DevDay в Сан Франциско в най-напрегнатото събитие за годината, поставяйки под въпрос бъдещето на независимите изкуствени интелекти и възможността им да съществуват без строг държавен надзор