Хората с готовност се отказват от вземането на решения и оставят това бреме на „безпристрастните“ алгоритми. Но на една тяхна грешка, която забелязваме, се падат десетки други скрити. А изгубването на навика за вземане на решение е най-лесният път да бъдем поробени от роботите. Път, който също не забелязваме.

Когато в Amazon се появи книга с цена $23,6 милиона, ние се забавляваме с алгоритъма за формиране на цената. Но същите грешки се проявяват и в другите области, в които масово се използва изкуствен интелект. И ако това се случва във финансовия свят, на никой не му е до смях, предупреждава професор Дионисиос Деметис от университета Хъл. Той разсъждава на страниците на Conversation върху проникването на ИИ в различните области на живота.

Професор Деметис е уверен, че човечеството вече е във властта на алгоритмите, след като е оставило на тях едната от фундаменталните функции на мисленето – вземането на решения.

„Изкуственият интелект е технология за управление на хората, докато преди това човекът създаваше технологии, които управлява самостоятелно“ – подчертава професор Деметис.

„Към днешен ден тази технология се развила до степен, когато ни управлява и използва“ – твърди ученият. „И всичко това стана доброволно, а влиянието на ИИ непрекъснато се разширява“.

Това е твърде опасно предимно заради принципа на „черната кутия“. Никой не може да обясни по какъв начин ИИ взема решенията. Хората имат достъп само до информацията на входа и до взетото решение.

Опасността от използването на подобни алгоритми най-добре се вижда на фондовата борса. Към днешен ден алгоритмичната търговия се използва в около 85% от всички операции на финансовия пазар. При това, всяка една секунда в опит на надхитрят един друг се състезават хиляди алгоритми, които се разпореждат с милиарди долари.

През 2010 година това доведе до така наречения Flash Crash – почти мигновения спад на пазарната капитализация на най-големите американски компании с 9% – или приблизително 1 трилион долара. Към края на деня загубите бяха почти нивелирани, а продължилото цели пет месеца разследване показа, че няма никаква грешка или злоумисъл – алгоритмите просто са намерили начин да спечелят няколко милиона долара на своите създатели.

Оттогава политиката за ненамеса набира обороти. Напълно е възможно това да доведе до непозната към днешен ден криза на алгоритмичната търговия.

„Операторите на търговските системи с изкуствен интелект стигнаха до извода, че решенията на хората само пречат на ефективността на пазарите“ – казва ученият.

Професор Деметис е на мнение, че ако ви се струва, че от борсите можете да се дистанцирате, ИИ така или иначе ще ви застигне. Алгоритмите с елементи на изкуствен интелект вече вземат все повече юридически решения, банкерски решения и към днешен ден решават кой трябва да заеме определено работно място

„Човешките решения се заменят от алгоритмични и ние постепенно се превръщаме в инструменти, чието съществуване се определя от машините“ – твърди Деметис.