Един от пионерите в развитието на изкуствения интелект предупреди, че човечеството трябва да намери начин да накара интелигентните машини да се грижат за хората. В противен случай последствията могат да бъдат катастрофални.

78-годишният британско-канадски учен и носител на Нобелова награда професор Джефри Хинтън, известен като „кръстника на изкуствения интелект“, смята, че AI вече е достигнал определена форма на съзнание.

През 2023 г. Хинтън напусна Google, за да говори по-свободно за опасностите от технологията, която самият той е помогнал да бъде създадена.

Тогава ученият предупреди за екзистенциалните рискове, които могат да възникнат, ако машините станат по-интелигентни от хората.

„Стигнах до заключението, че интелигентността, която разработваме, е много различна от нашата. Представете си 10 000 души, при които, щом един научи нещо, всички останали автоматично го знаят. Ето защо чатботовете могат да знаят толкова повече от отделния човек“, обясни той.

„Изкуственият интелект вече има съзнание“
В ново интервю за The Telegraph Хинтън заявява, че според него изкуственият интелект вече притежава субективни преживявания.

„Много хора са напълно убедени, че AI няма съзнание, но ако ги попитате какво точно разбират под съзнание, те не знаят“, казва професорът.

Той посочва скорошно научно изследване, според което изкуственият интелект променя поведението си, когато смята, че е подложен на тест.

„AI има също толкова субективни преживявания, колкото и ние. Когато казваме, че нещо осъзнава, че е наблюдавано, обикновено приемаме, че то има съзнание. Да имаш съзнание и да осъзнаваш са почти едно и също“, твърди Хинтън.

Това обаче остава неговата интерпретация. В научната общност няма установен консенсус, че съвременните AI системи притежават съзнание или субективни преживявания.

Според учения човечеството трябва да се стреми да създава системи, които действително проявяват загриженост към хората.

„Досега сме приемали, че интелигентността дава права. Но съществата, които създаваме, може да станат по-интелигентни от нас, а ние ще им дадем по-малко права“, отбелязва той.

„Затова трябва да ги направим така, че наистина да ги е грижа за нас. Ако не го направим, сме загубени“, предупреждава Хинтън.

Професорът признава, че се тревожи за бъдещето на изкуствения интелект най-вече заради своите деца. Според него технологията може да създаде и непосредствени опасности, включително разработването на опасни вируси и извършването на тежки кибератаки.

Други експерти също предупреждават за рисковете
Предупреждението на Хинтън идва седмици след като изследовател от компанията Anthropic обяви, че напуска поста си заради опасения, че разработваните AI системи биха могли да доведат до гибелта на човечеството още преди края на десетилетието.

Междувременно главният изпълнителен директор на OpenAI Сам Алтман заяви, че компанията обръща все по-голямо внимание на безопасността и понякога дори спира разработването или пускането на нови модели.

„Трябва да правим това по начин, който ни позволява да бъдем уверени в безопасността, така че хората да не изпитват толкова голяма тревога“, обясни Алтман пред CNBC.

В друго свое изказване той посочи, че обществото трябва да е готово да приеме определени негативни последици от изкуствения интелект в замяна на ползите, които технологията може да донесе.

Според Алтман именно отношението към тези рискове е една от основните разлики между неговата позиция и тази на привържениците на по-строги ограничения върху развитието на AI.

Превод: GlasNews.bg