Чатботовете могат реално да влияят върху политическите мнения на хората, но най-убедителните модели на изкуствен интелект предоставят и най-много неточна информация. До този извод достига Институтът за сигурност на изкуствения интелект към британското правителство в най-мащабното изследване по темата досега.

В проучването участват близо 80 000 британци, които разговарят с 19 различни модела на изкуствен интелект – сред тях усъвършенстваните технологии зад ChatGPT и Grok на Илон Мъск. Проучването е разработено съвместно с учени от Лондонското училище по икономика, MIT, Оксфорд и Станфорд, съобщава The guardian.

Какво установяват експертите

Участниците дискутират политически теми като заплати в публичния сектор и кризата с разходите за живот. Моделите са подтиквани да убедят потребителите да заемат конкретна позиция. След разговора участниците повторно оценяват своите политически нагласи.

Резултатите, публикувани в списание Science, показват, че най-убедителните отговори са най-информационно плътни – с много факти, данни и аргументи. Но именно тези модели са и най-неточни, предоставяйки значителни количества грешна информация, а оптимизирането за убедителност може да бъде в ущърб на истинността, което е риск за публичния дискурс. Допълнителното настройване на моделите след разработката (пост-обучение) значително увеличава тяхната убедителност.

Според изследователите системите с изкуствен интелект могат да бъдат по-манипулативни от най-добрите човешки оратори, защото имат способността за мигновено генериране на огромно количество информация. Освен това предоставянето на лични данни за потребителите не оказва толкова голямо влияние върху убедителността, колкото простото увеличаване на количеството факти и аргументи.

Екипът подчертава, че реалната ситуация е по-сложна – хората рядко имат време и желание да водят 10-минутни политически разговори с чатбот. Съществуват и психологически граници за това доколко човек може да бъде убеден.

Въпреки това изследването поставя важни въпроси за бъдещата регулация и безопасност на AI системите, които все по-често участват в обществените дебати.