Големите езикови модели (LLM), които обикновено свързваме с изкуствения интелект, вече са част от ежедневието в интернет. Те имат приложения в науката, медицината и обработката на информация, но около възможностите им се появяват и твърдения, че могат да притежават съзнание.

Д-р Алекс Хана, директор по изследванията в Distributed AI Research Institute, отхвърля тази идея. Според нея езиковите модели не мислят, а използват математически вероятности, за да предвидят коя дума или част от дума е най-вероятно да последва даден текст.

„Големият езиков модел е вид статистически модел“, обяснява Хана. Той се обучава върху огромни количества текст и въз основа на научените зависимости генерира най-вероятното продължение на подадената заявка.

Технологията може да се използва за опростяване на сложни текстове, автоматично довършване на изречения, търсачки и проверка на езика. Съвременните модели работят с много по-голям обем информация от предишните системи, което значително разширява възможностите им.

Този мащаб носи и проблеми. Огромните масиви от данни за обучение трудно могат да бъдат напълно документирани, а съдържащите се в тях пристрастия могат да се появят и в отговорите на моделите. Обучението им изисква също значителни изчислителни ресурси и електроенергия.

Друг сериозен недостатък е липсата на гаранция, че генерираната информация е вярна. Явлението често се нарича „халюцинация“, макар Хана да предпочита по-простото обяснение: машината понякога просто измисля информация, която статистически прилича на достоверен отговор.

Това създава риск при използването на подобни системи в здравеопазването, държавните услуги и други сфери, в които грешният отговор може да има реални последици.

На въпроса дали някой от съществуващите езикови модели притежава съзнание или би могъл да развие такова, Хана отговаря категорично: „Не и не“.

Според нея хората са склонни да виждат разум зад смислено формулирания език. Когато четем последователен текст, естествено предполагаме, че зад него стои мислещ субект. При чатботовете тази човешка склонност може да създаде впечатление за съзнание.

Терминът „невронна мрежа“ допълнително засилва подобна асоциация. Хана подчертава, че изкуствените невронни мрежи не функционират като биологичните неврони в човешкия мозък.

„Те не са съзнателни. Няма да станат съзнателни. Те са машини за предвиждане на следващия токен“, казва тя.

Хана оспорва и твърденията, че езиковите модели могат да развият „свръхинтелект“, който да надмине човека. Високият резултат на дадена система на тест според нея не доказва наличие на интелигентност. Той може да е следствие от начина, по който моделът е обучен, и от информацията, включена в данните му.

Според изследователката общественият разговор трябва да бъде по-конкретен и да не поставя всяка автоматизирана технология под общия етикет „AI“.

По-същественият въпрос е какво точно се автоматизира, какви могат да бъдат последствията от грешка и кой носи отговорност за решенията, взети с помощта на тези системи.

Превод: GlasNews.bg