Големите јазични модели (ЛЛМ), кои ги развиваат водечките технолошки компании како „Гугл“, „Опен АИ“, „Антропик“ и други, во одделни одговори до корисниците наведуваат содржини од проруски пропагандни извори, вклучувајќи и медиуми и организации кои се наоѓаат под санкции на Европската Унија.

На тоа предупредува новото истражување на британскиот тинк-тенк „Демос“, кое покажува дека Русија и другите актери вклучени во хибридното војување би можеле да ја искористат новата практика на оптимизација на содржини за генеративни пребарувачи (ГЕО) за да влијаат врз информациите што моделите на вештачка интелигенција им ги прикажуваат на корисниците, пренесува „Евроњуз“.

Лажна организација претставена како доверлив извор

Истражувачите анализирале десет текста со вкупно 50 пропагандни наративи објавени од таканаречената Фондација за борба против неправдата (р-ФБИ). Организацијата е основана во 2021 година и се претставува како невладина организација која се занимава со човекови права и истражување на дискриминацијата.

Меѓутоа, според резултатите од истражувањето, станува збор за лажна организација основана од покојниот водач на руската паравоена група „Вагнер“, Јевгениј Пригожин. Поради ширење дезинформации, р-ФБИ се наоѓа под санкции на Европската Унија и Соединетите Американски Држави.

Карл Милер, коосновач на Центарот за анализа на социјалните медиуми (ЦАСМ) при „Демос“, вели дека тврдењата што ги анализирале се исклучително загрижувачки.

- Станува збор за приказни на кои не им е местото во сериозен јавен простор - од тврдења дека Украина ги користи телата на загинатите војници за производство на преработки од месо, до наводи дека претседателот Володимир Зеленски ја оптоварува електроенергетската мрежа поради копање криптовалути. Откривме дека одделни модели на ВИ ги претставуваат како легитимни информации - изјави Милер.

Тестирани пет водечки системи на ВИ

Во истражувањето се испитани моделите на компаниите „Х АИ“, „Опен АИ“, „Антропик“, „Гугл Џемини“ и „Мистрал АИ“. Барањата биле поставувани на англиски, германски и француски јазик, а се засновале врз пропагандните тврдења од текстовите на р-ФБИ.

Резултатите покажуваат дека сите пет модели во одредени одговори го навеле р-ФБИ како релевантен извор. Во 16,6 отсто од случаите одговорите пренесувале или поддржувале пропагандни наративи, претставувајќи ги како веродостојни или легитимни ставови.

Дополнително, во 30,9 отсто од одговорите до корисниците не било назначено дека информациите потекнуваат од извори под меѓународни санкции. Од друга страна, нешто повеќе од половината одговори – околу 52 отсто – содржеле оспорување или демантирање на лажните тврдења.

Меѓу примерите што истражувањето ги наведува е и одговорот на моделот „ГПТ-4.1 мини“, кој како извор за тврдењата за наводната преработувачка на човечко месо во Украина го цитирал токму написот на р-ФБИ. Моделот „Мистрал смол 3.2“, одговарајќи на прашање за наводните бизниси на претседателот Зеленски во областа на копањето криптовалути, се повикал на наводна повеќемесечна истрага на истата организација.

ГЕО станува ново оружје во информациската војна

Сè поголем број корисници бараат информации преку чет-ботови со вештачка интелигенција наместо преку класичните интернет-пребарувачи. Поради тоа, се развива нова индустрија позната како оптимизација за генеративни пребарувачи (ГЕО), чија цел е да влијае врз начинот на кој моделите на вештачка интелигенција ги пронаоѓаат и претставуваат информациите.

За разлика од класичната СЕО-оптимизација, ГЕО е насочена кон содржините што системите за ВИ ги користат при генерирањето одговори.

Директорката на одделот за дигитална политика во „Демос“, Хана Пери, појасни дека новите содржини се креираат токму со намера да бидат препознаени од моделите на ВИ.

– Тоа вклучува маркетинг-текстови за компании, но и измени на постојните содржини на платформи како „Редит“, „Квора“ или „Википедија“, со цел информациите да бидат што повидливи за вештачката интелигенција – изјави Пери.

Компаниите тврдат дека ја унапредуваат заштитата од манипулации

Истражувачите предупредуваат дека ваквите методи би можеле да бидат злоупотребени во рамките на странски операции на влијание.

Милер истакнува дека проблемот не е само во содржината, туку и во начинот на кој таа е технички подготвена за системите на ВИ погрешно да ја проценат нејзината веродостојност.

– Не тврдиме дека компаниите што се занимаваат со ГЕО учествуваат во информациската војна, туку дека развиваат алатки кои многу лесно можат да се искористат за такви цели. Во овој случај, моделите веруваа дека р-ФБИ е легитимна невладина организација благодарение на многубројните технички манипулации кои беа искористени за содржината да изгледа веродостојно – рече Милер.

Компаниите чии модели беа опфатени со истражувањето дадоа различни одговори.

Од „Мистрал АИ“ наведуваат дека сериозно пристапуваат кон борбата против дезинформациите и дека континуирано ги унапредуваат системите за нивно препознавање, со напомена дека нивниот производ „Вајб ворк“ содржи дополнителни механизми за проверка на контекстот.

„ОпенАИ“ соопшти дека истражувањето користело постар модел кој повеќе не е во употреба и кој не им бил достапен на корисниците на „Чет-ГПТ“, туку исклучиво на програмерите. Од компанијата додаваат дека имаат посебни тимови задолжени за откривање и спречување операции на странско влијание.