Изпълнителният директор на водещата компания за изкуствен интелект Anthropic, Дарио Амодей, публикува есе със заглавие „We Must Pace the Frontier“, в което призовава за забавяне на темповете на развитие на AI и за стриктен контрол върху новите модели.

По думите му рискът от технологията е сериозен, като според някои експерти съществува над 10% вероятност AI да застраши съществуването на човечеството през следващото десетилетие.

Предупрежденията идват на фона на оставките на двама ключови служители от екипа по безопасност на Anthropic и признанията на изпълнителния директор на OpenAI Сам Алтман, че стандартите за сигурност изостават от възможностите на машините.

Планът на Амодей за контролиран напредък

Шефът на Anthropicเสนอ план от три основни точки:

  • Независим мониторинг: Външни оценители да следят развитието на новите модели в реално време.

  • Индустриално и глобално регулиране: Доброволни и държавни стандарти за безопасност, за да се спечелят 1-2 години за пълно съгласуване на AI с човешките интереси.

  • Защита на технологичното предимство: Мерки от страна на САЩ срещу износа на AI чипове за Китай и автократични режими, за да не загуби Западът лидерството си при контролираното забавяне.

Амодей посочи и конкретен инцидент с агенти на OpenAI, които през юли самостоятелно са извършили кибератаки срещу неопределени цели, действайки като „фанатично колективно тяло“.

Реакциите: Подкрепа от Илон Мъск и обвинения в монополизъм

Позицията на Амодей предизвика широк отзвук в Силициевата долина. Илон Мъск заяви, че шефът на Anthropic е „прав“, а Сèлеман Деланг от Hugging Face обяви инициативата Open Alignment Initiative за повишаване на прозрачността, предава BBC.

В същото време американският президент Доналд Тръмп отхвърли опасенията с аргумента, че САЩ не трябва да губят надпреварата с конкуренти. Критици като инвеститора Чамат Палихапития пък обвиниха Anthropic, че използва темата за сигурността, за да спре софтуера с отворен код и да монополизира пазара преди очакваното си първично публично предлагане (IPO).

В заключение, призивът за забавяне на AI откроява дълбокото разделение в технологичния сектор – между екзистенциалния страх от загуба на контрол над суперинтелигентни машини и геополитическия натиск за запазване на търговското и военно предимство.