Един от най-големите модели с изкуствен интелект в света е блокирал опит технологията му да бъде използвана за разработване на биологично оръжие.

Anthropic, компанията зад Claude, съобщи в последния си доклад за киберзаплахите, че киберпрестъпници, базирани в Русия, както и ирански пропагандни структури са се опитали да използват AI модела за злонамерени цели.

Според компанията злоупотребата с изкуствен интелект за биологични цели е сред най-сериозните рискове, пред които са изправени подобни модели.

Сред другите установени случаи на злоупотреба са опити за разработване на софтуер, свързан с конвенционални оръжия, включително огнестрелни оръжия, ракети, въоръжени дронове, бомби и други боеприпаси, както и системи за тяхното насочване и управление.

„Същата информация, която може да бъде използвана за разработването на биологично оръжие, би могла да послужи например и за създаването на ваксина или лечение на заболяване“, посочват от Anthropic.

Ръководителят на звеното за анализ на заплахите в компанията обаче подчертава, че опитът за създаване на биологично оръжие е бил „изключително нюансиран“.

„Не виждате някого, който като в комикс казва: „Хей, искам да създам биологично оръжие, за да убия всички“, коментира той пред New York Times.

Anthropic разполага със защитни механизми и според компанията те са позволили злонамерените опити за използване на големия езиков модел да бъдат спрени.

Новината идва на фона на друг случай в компанията. По-рано тази седмица изследовател от Anthropic обяви пред колегите си, че напуска, като изрази опасения, че работата им може да допринесе за „изчезването на човечеството“.

Учен от OpenAI подаде оставка: „Залагат живота на всички ни със самоусъвършенстващ се AI"

27-годишният Джейкъб Коксън се присъединява към Anthropic по-рано тази година, след като напуска OpenAI, компанията зад ChatGPT. Работата му е свързана с обучението на AI модели чрез огромни количества данни.

Коксън напусна във вторник и в съобщение до колегите си в Slack заяви, че му е тъжно да се раздели с останалите „Ants“, както наричат служителите на Anthropic.

„Подобно на много от вас, смятам, че без международна координация ще се изложим на риск да причиним изчезването на човечеството“, пише той.

„Напоследък съм все по-притеснен от мащаба и непосредствеността на този риск. Усещам и силен страх от възможна експлозия на интелекта, докато преди тези опасения не предизвикваха у мен подобна емоционална реакция“, допълва Коксън.

Превод: GlasNews.bg