В големите онлайн магазини цените на стоките услугите се определят най-вече от компютърни системи. Ново изследване на италианските учени показа, колко лесно алгоритмите с елементи на изкуствен интелект създават картел и вдигат цените в ущърб на потребителите.

Използваното обучение с подкрепление е подмножество на машинното обучение, като при този метод изкуственият интелект се стимулира чрез награди и наказания за постигането на определена цел. В ИИ AlphaGo например, се използва същия подход. При ценообразуването, ИИ получава за цел постигането на максимална печалба, след което той започва да експериментира с най-различни стратегии в симулирана среда, за да намери оптималното решение. Но възникна проблем: изкуствените интелекти от подобен тип бързо се научават да сключват тайни споразумения.

Още от 2015 година една трета от от цените в Amazon се поставя от алгоритми. Към днешен ден делът на този процент нарасна. Но алгоритмите, изчисляващи цените на книгите, самолетните билети или хотелските места, са толкова удобни, че вече се използват повсеместно.

Технологиите се развиха много бързо и на мястото на програмите с твърдо зададени параметри идват компютърни системи с машинно обучение, при които логиката за приемане на решенията за големината на цените вече не е в ръцете на човека, отбеляза MIT Technology Review.

„Проблемът е в това, че тези автономни алгоритми за ценообразуване сами стигат до извода, че при условие, че трябва да получат максимална печалба, трябва да избягват ценовите войни. Тоест, те могат да се научат да се сговарят, дори и без да са обучавани на това“ – заявиха професор Емилио Калвано и неговите колеги от Болонския Университет.

За да проверят своята теория, учените са създали две автономни системи за ценообразуване и са им дали възможност да се наблюдават. Оказа се, че „дори и сравнително опростените алгоритми достигат до много изтънчени и сложни стратегии на съвместна работа„.

В началото на експеримента, двата алгоритъма са се сражавали един срещу друг, понижавайки цените. Но това е бил просто временен етап, след който цените започват да растат. Постепенно единият от алгоритмите започва да проявява „автореактивно поведение“, а това е знак за таен сговор.

С направената от италианските учени симулация, сговорът винаги се е получавал едностранен – тоест, алгоритмите не могат да се договорят за монопол. Но има нещо друго – те вършат скрити целенасочени действия, които не могат да бъдат забелязани отстрани. „Те се научиха да се договарят единствено чрез метода на пробите и грешките“ – казаха изследователите – „без предварителни знания за околната среда и действащите в нея условия„.

При това алгоритмите не са се опитвали да нарушават каквито и да било правила. Те просто за обучени и са изучили основите на пазара и са действали чрез пробването на различни стратегии. Учените призоваха създателите на ИИ да да обърнат внимание на този проблем и да вземат мерки за неговото предотвратяване.