Експерти призоваха за предпазливост по отношение на бързото приемане на китайската платформа за изкуствен интелект DeepSeek, позовавайки се на опасения относно разпространението на дезинформация и как китайската държава може да използва потребителски данни.

Британското правителство каза, че използването му е личен избор на гражданите, но служителите наблюдават всички заплахи за националната сигурност на данните от новия изкуствен интелект и казаха, че няма да се поколебаят да предприемат действия, ако възникнат заплахи, пише The Guardian.

Новият евтин изкуствен интелект срина водещ американски технологичен борсов индекс с $1 трилион тази седмица и бързо се превърна в най-тегленото безплатно приложение в Обединеното кралство и САЩ, припомня The Guardian. Доналд Тръмп го нарече „звън за събуждане“ за технологичните компании.

Пристигането му шокира технологичния свят, като демонстрира, че може да осигури производителност, подобна на тази на широко използвани платформи като ChatGPT на малка част от цената.

Майкъл Уолдридж, професор по основи на изкуствения интелект в Оксфордския университет, казва, че не е неразумно да се предположи, че данните, въведени в чатбот, могат да бъдат споделени с китайската държава.

Той заявява: „Мисля, че е добре да го изтеглите и да попитате за представянето на футболния клуб Ливърпул или да разговаряте за историята на Римската империя, но мога ли да препоръчам да поставите нещо чувствително, лично или приватизиращо върху него? В никакъв случай... Защото не знаете къде отиват данните."

Дейм Уенди Хол, член на консултативния орган на високо ниво на ООН по въпросите на изкуствения интелект, каза пред The ​​Guardian: „Не можете да избягате от факта, че ако сте китайска компания за информационни технологии, вие сте обект на китайското правителство за това какво можете да правите и какво не можете да правите."

„Трябва да сме разтревожени“, казва Рос Бърли, съосновател на Центъра за информационна устойчивост, който е частично финансиран от правителствата на САЩ и Обединеното кралство. „Виждаме отново и отново как Пекин използва своето технологично превъзходство като оръжие за наблюдение, контрол и принуда както у дома, така и в чужбина.“

Експертът твърди, че ако бъде оставен без контрол, DeepSeek може да „подхрани кампании за дезинформация, да подкопае общественото доверие и да засили авторитарните нагласи в нашите демокрации“.

Питър Кайл, министър на технологиите на Великобритания, каза в подкаста на News Agents във вторник: „Мисля, че хората трябва да направят своя избор за това точно сега, защото не сме имали време да разберем напълно това. Това е китайският модел, в който има вградена цензура. Като такъв, той няма свободата, която бихте очаквали от други модели в момента. Но, разбира се, хората ще се интересуват от това.

DeepSeek е платформа с отворен код, което означава, че разработчиците на софтуер могат да я адаптират за собствените си цели. Това породи надежди за нова вълна от иновации в областта на изкуствения интелект, която изглежда е доминирана от американски технологични компании, разчитащи на огромни инвестиции в микрочипове, центрове за данни и нови захранвания.

Най-богатите хора в света загубиха над 100 милиарда долара заради китайски чатбот

Уулдридж предупреждава: „Това е доста силен сигнал, в случай че някой все още не е разбрал, че Китай не изостава в това отношение.“

Някои потребители, които тестваха DeepSeek, установиха, че той не отговаря на въпроси по чувствителни теми като събитията на площад Тянанмън в Пекин. На въпрос за статута на Тайван, той повтори позицията на Китайската комунистическа партия, че островът е неотменна част от Китай.

„Най-големият проблем с генеративния AI е дезинформацията“, казва Хол. „Зависи от данните в модела, отклонението на тези данни и начина, по който се използват. Можете да видите този проблем с чатбота DeepSeek.“

Един потребител, Азим Азхар, експерт по изкуствен интелект, попита за събитията на площад Тянанмън и му беше казано, че DeepSeek не може да предостави подробна информация и че „темата е много чувствителна и често е цензурирана в много страни, включително Китай“.

След това обаче ИИ обясни, че събитията са „широко признати като потушаване на продемократични протести“ и каза: „Китайското правителство отговори с брутално потушаване, което доведе до смъртта на стотици (или вероятно хиляди) хора, включително както протестиращи, така и войници.

Хората използват модели на изкуствен интелект като DeepSeek и ChatGPT, за да им помогнат да обработват лични или работни документи, като например протоколи от срещи, но всичко изтеглено може да се използва от собственика на компанията за обучение на изкуствения интелект или за други цели.

DeepSeek е базиран в Ханджоу и изяснява в своята политика за поверителност, че личната информация, която събира от потребителите, се съхранява „на защитени сървъри, разположени в Китайската народна република“.

Той също така казва, че компанията използва данни, за да „изпълни нашите законови задължения или ако е необходимо за изпълнение на задачи от обществен интерес или за защита на жизненоважните интереси на нашите потребители и други“.

Законът за националното разузнаване на Китай гласи, че всички предприятия, организации и граждани „трябва да подкрепят, подпомагат и да си сътрудничат с националното разузнаване“.