Изкуствен интелект срещу дезинформацията: Институт GATE представи инструменти за разпознаване на манипулации

Как изкуственият интелект може да помогне за разпознаването на дезинформацията и как обществото да стане по-устойчиво на информационни манипулации? Тези въпроси събраха учени и представители на европейски институции, медии и изследователски организации на международния семинар "From Analysis to Action", организиран от Институт GATE.

Проф. Преслав Наков от Mohamed bin Zayed University of Artificial Intelligence и Qatar Computing Research Institute представи възможностите на големите езикови модели за автоматизирана проверка на факти и анализ на медийно съдържание.

Проф. Руслан Митков от университетите в Аликанте и Ланкастър показа и други приложения на езиковите технологии с обществена полза – в образованието, превода и подкрепата за хора с комуникационни затруднения. Сред представените резултати беше възможността за създаване на тестови задачи почти четири пъти по-бързо чрез автоматизирани методи, без компромис с качеството.

Сред акцентите на форума бяха конкретни технологични разработки на GATE. Станислав Пенков представи инструмент за откриване на логически заблуди – подвеждащи аргументи, които могат да влияят върху обществените нагласи. Добромир Цолов и Георги Горанов демонстрираха приложение за анализ на политически наративи, което подпомага изследването на посланията и начините, по които се изграждат те.

"Дезинформацията е предизвикателство не само за технологиите, но и за обществото като цяло. В GATE разработваме инструменти, които помагат да разбираме по-добре как се създават и разпространяват манипулативните послания. Нашата цел е научните изследвания да се превръщат в практически решения, които подкрепят информирания избор и критичното мислене", посочи проф. Силвия Илиева, директор на Институт GATE при откриването на събитието.

Тези разработки показват потенциала на изкуствения интелект да подпомага журналисти, изследователи и анализатори при разпознаването на манипулативно съдържание. Експертите обаче подчертаха, че технологиите не могат да заменят човешката преценка – резултатите от автоматизираните системи трябва да бъдат проверявани и подкрепяни с надеждни доказателства.

Дезинформацията обаче не се изчерпва с неверните факти. Тя често разчита на емоционални внушения, избирателно представяне на информация и повтарящи се послания, които влияят върху възприятията на хората. Затова участниците обърнаха внимание на необходимостта да се анализират не само отделни твърдения, но и цялостните наративи, чрез които се формират обществени нагласи. Обсъдени бяха и възможностите за автоматично разпознаване на обидна реч чрез езикови ресурси като HurtLex.

Специално внимание беше отделено на уязвимостите на българската информационна среда. Представители на Съвета за електронни медии, Европейската комисия, Центъра за изследване на демокрацията и GATE обсъдиха недоверието към традиционните медии, поляризацията в онлайн пространството и отдръпването на гражданите от публичния дебат.

Като важна част от противодействието на дезинформацията експертите откроиха медийната грамотност и превенцията. Представен беше подходът prebunking, който подготвя хората да разпознават манипулативни техники, преди да бъдат подведени от тях. Обсъдени бяха образователни инициативи за различни възрастови групи и обучения за проверка на факти.

Форумът разгледа и ролята на европейското законодателство, включително Законодателния акт за цифровите услуги (DSA) и Акта за изкуствения интелект. В центъра на дискусията бяха отговорността на онлайн платформите, защитата на свободата на изразяване и необходимостта от сътрудничество между институциите, технологичните компании, научните организации и гражданското общество.

Международният семинар открои необходимостта от съчетаване на технологични решения, критично мислене и ефективни регулации. Общият извод от дискусиите беше, че устойчивостта срещу дезинформацията зависи не само от способността да откриваме манипулации, но и от уменията на гражданите да ги разпознават и оценяват самостоятелно.