„Агентният ИИ“ представлява кръстопът. Докато изкуственият интелект може да бъде добър съветник за хората, като ни предоставя полезна, надеждна и актуална информация в реално време, автономните ИИ агенти вероятно ще доведат до много предвидими проблеми, като същевременно ще подкопаят много от ползите, които технологията би могла да предложи”, пише Нобеловият лауреат за икономика от 2024 г. година Дарон Аджемоглу в статия за “Проджект синдикейт”.
“ИИ агентите идват, независимо дали сме готови или не”, предупреждава икономистът. Макар да има голяма несигурност кога ИИ моделите ще могат да взаимодействат автономно с цифрови платформи, други ИИ инструменти и дори хора, няма съмнение, че това развитие ще бъде трансформиращо – за добро или за лошо. Въпреки всички коментари (и шум) около агентния ИИ, много важни въпроси остават без отговор, като най-големият от тях е какъв тип ИИ агент се стреми да разработи технологичната индустрия.
Различните модели ще имат коренно различни последици. При подхода „ИИ като съветник“ ИИ агентите ще предлагат индивидуално съобразени препоръки на вземащите решения, като хората винаги ще „остават на кормилото“. При модела „автономен ИИ“ обаче агентите ще поемат управлението от името на хората. Това е съществена промяна с трайни последици.
Хората вземат стотици решения всеки ден, някои от които имат сериозни последствия за кариерата, препитанието или щастието им. Много от тези решения се основават на непълна или неточна информация и се определят по-скоро от емоции, интуиция, инстинкти или импулси. Както известният философ Дейвид Хюм е казал: „Разумът е и трябва да бъде само роб на страстите.“ Хората често вземат решения, неосноваващи се на систематично разсъждение и на изследване на всички възможни последствия, но както Хюм признава в частта „трябва“ от изречението си, това не е изцяло лошо. Това е, което ни прави хора. Страстта отразява целта и може да играе ключова роля в начина, по който се справяме с един сложен свят.
С помощта на ИИ съветници, които предоставят персонализирана, надеждна, контекстуално релевантна и полезна информация, много важни решения могат да бъдат подобрени, но човешките мотиви ще останат доминиращи. Но какво лошо има в това, автономни ИИ да вземат решения от наше име? Не биха ли могли те да подобрят още повече процеса на вземане на решения, да спестят време и да предотвратят грешки?
Тази гледна точка има няколко проблема. Първо, човешката воля е от решаващо значение за човешкото учене и развитие. Самият акт на вземане на решение и обмисляне на резултатите – дори ако информацията и съветите идват от нечовешки източници – потвърждава нашето собствено чувство за воля и цел. Голяма част от това, което правят хората, не се отнася до изчисления или събиране на информация, за да се вземе решение за оптимален курс на действие; по-скоро става дума за открития – опит, който ще става все по-рядък, ако всички решения се делегират на изкуствен интелект.
Освен това, ако технологичната индустрия се фокусира главно върху автономни ИИ агенти, вероятността повече работни места да бъдат автоматизирани, ще се увеличи значително. Но ако ИИ се превърне предимно в средство за ускоряване на автоматизацията, всяка надежда за широко споделено благоденствие би била разбита.
Най-важното е, че има фундаментална разлика между изкуствения интелект, действащ от името на хората, и хората, действащи от свое име. Много ситуации, в които хората взаимодействат помежду си, съдържат както елементи на сътрудничество, така и елементи на конфликт. Да вземем за пример случая, в който една компания предоставя ресурси на друга. Ако тези ресурси са достатъчно ценни за купувача, сделката между двете компании е взаимноизгодна (и обикновено е от полза и за обществото).
Но за да има обмен, цената на вложените ресурси трябва да бъде определена чрез процес, който по своята същност е конфликтен. Колкото по-висока е цената, толкова по-голяма е ползата за продавача в сравнение с купувача. Резултатът от такива преговори често се определя от комбинация от норми (като например за справедливост), институции (като договори, които налагат санкции при нарушение) и пазарни сили (като например дали продавачът има възможност да продаде стоката на някой друг). Но представете си, че купувачът има репутация на човек, който не прави компромиси – отказва да приеме нищо друго освен най-ниската възможна цена. Ако няма други купувачи, продавачът може да бъде принуден да приеме ниската оферта.
За щастие, в ежедневните ни транзакции такива безкомпромисни позиции са редки, отчасти поради причината, че не е изгодно да имаш лоша репутация и което е по-важно, защото повечето хора нямат нито куража, нито амбицията да действат по такъв агресивен начин. Но сега си представете, че купувачът има автономен ИИ агент, който не се интересува от човешките норми за поведение и притежава „нечовешки стоманени нерви“. ИИ може да бъде обучен винаги да приема тази безкомпромисна позиция, а контрагентът няма да има никакъв шанс да го убеди да постигне по-изгодно за двете страни решение. За разлика от това, в един свят, в който ИИ е съветник, моделът може все пак да препоръча безкомпромисна позиция, но в крайна сметка човекът ще реши дали да поеме по този път.
В краткосрочен план, автономните ИИ агентни могат да доведат до по-неравностоен свят, в който само някои компании или индивиди ще имат достъп до висококачествени, надеждни и безкомпромисни ИИ модели. Но дори и всички да придобият същите инструменти, проблемите продължават. Цялото ни общество ще бъде подложено на „война на изтощение“, в която ИИ агентите ще довеждат всяка конфликтна ситуация до ръба на разпада.
Такива конфронтации са рискови по своята същност. Както в играта „страхливец“ (когато две коли ускоряват една към друга, за да видят коя ще отклони първа), винаги е възможно никоя от страните да не отстъпи. Когато това се случи, и двамата шофьори „печелят“ – и двамата загиват.
“Изкуствен интелект, който е обучен да печели в играта „страхливец“, никога няма да се отклони от пътя си. Въпреки че изкуственият интелект може да бъде добър съветник за хората, като ни предоставя полезна, надеждна и актуална информация в реално време, един свят с автономни агенти с изкуствен интелект, вероятно би довел до много нови проблеми, като същевременно ще подкопае много от предимствата, които тази технология би могла да предложи”, заключава Дарон Аджемоглу.
