Skip to content
Големите јазични модели (LLM), развиени од водечки технолошки компании како што се Google, OpenAI, Anthropic и други, во некои одговори на корисниците наведуваат содржина од проруски пропагандни извори, вклучувајќи медиуми и организации под санкции од Европската Унија.
Ова е она што го предупредува новата студија на британскиот тинк-тенк Demos, која покажува дека Русија и другите актери вклучени во хибридно војување би можеле да ја користат новата практика за оптимизација на содржината за генеративни пребарувачи (GEO) за да влијаат на информациите што моделите со вештачка интелигенција им ги прикажуваат на корисниците, објавува Euronews.
Лажна организација претставена како сигурен извор
Истражувачите анализирале десет текстови со вкупно 50 пропагандни наративи објавени од таканаречената Фондација за борба против неправдата (r-FBI). Организацијата е основана во 2021 година и се претставува како невладина организација која се занимава со истражување на човековите права и дискриминацијата.
Сепак, според истражувањето, станува збор за лажна организација основана од покојниот лидер на руската паравоена група Вагнер Евгениј Пригожин. Поради ширењето на дезинформации, r-FBI е под санкции од Европската Унија и Соединетите Американски Држави.
Карл Милер, коосновач на Центарот за анализа на социјалните медиуми (CASM) во Демос, вели дека тврдењата што ги анализирале се исклучително загрижувачки.
„Ова се приказни кои немаат место во сериозен јавен простор – од тврдења дека Украина ги користи телата на мртвите војници за производство на месни производи до тврдења дека претседателот Володимир Зеленски ја оптоварува електричната мрежа поради рударење криптовалути. Откривме дека некои модели на вештачка интелигенција ги претставуваат како легитимни информации“, изјави Милер за Euronews.
Тестирани пет водечки системи на вештачка интелигенција
Истражувањето ги испита моделите на компаниите xAI, OpenAI, Anthropic, Google Gemini и Mistral AI. Прашањата беа поставени на англиски, германски и француски јазик и беа засновани на пропагандни тврдења од текстови на r-FBI.
Резултатите покажуваат дека сите пет модели го наведоа r-FBI како релевантен извор во одредени одговори. Во 16,6 проценти од случаите, одговорите пренесуваа или поддржуваа пропагандни наративи, претставувајќи ги како веродостојни или легитимни ставови.
Дополнително, во 30,9 проценти од одговорите, на корисниците не им беше наведено дека информациите доаѓаат од извор под меѓународни санкции. Од друга страна, малку повеќе од половина од одговорите – околу 52 проценти – содржеа оспорување или негирање на лажните тврдења.
Меѓу примерите наведени во истражувањето е одговорот на моделот GPT-4.1 Mini, кој го наведе написот на r-FBI како извор за тврдењата за наводната обработка на човечко месо во Украина. Моделот Mistral Small 3.2, одговарајќи на прашање за наводните активности на претседателот Зеленски во областа на рударењето криптовалути, се осврна на наводна повеќемесечна истрага од истата организација.
GEO станува ново оружје во информациската војна
Сè поголем број корисници бараат информации преку чет-ботови со вештачка интелигенција наместо класични интернет прелистувачи. Затоа се развива нова индустрија позната како генеративна оптимизација за пребарувачи (GEO), која има за цел да влијае на начинот на кој моделите на вештачка интелигенција ги наоѓаат и презентираат информациите.
За разлика од класичната SEO оптимизација, GEO е фокусиран на содржината што ја користат системите со вештачка интелигенција при генерирање одговори.
Директорката на одделот за дигитална политика во Demos, Хана Пери, објасни дека новата содржина се создава токму со намера да биде препознаена од моделите со вештачка интелигенција.
„Ова вклучува маркетиншки текстови за компании, но и промени во постоечката содржина на платформи како Reddit, Quora или Wikipedia, така што информациите се што е можно повидливи за вештачката интелигенција“, рече Пери.
Компаниите тврдат дека ја подобруваат заштитата од манипулација
Истражувачите предупредуваат дека ваквите методи би можеле да се злоупотребат во операциите на странско влијание.
Милер истакнува дека проблемот не е само во содржината, туку и во начинот на кој е технички подготвена, така што системите за вештачка интелигенција погрешно ја проценуваат нејзината веродостојност.
„Не тврдиме дека GEO компаниите се вклучуваат во информациска војна, туку развиваат алатки што можат многу лесно да се искористат за такви цели. Во овој случај, моделите беа наведени да веруваат дека r-FBI е легитимна невладина организација благодарение на бројните технички манипулации што се користат за да се направи содржината да изгледа веродостојна“, рече Милер.
Компаниите чии модели беа вклучени во истражувањето дадоа различни одговори.
Mistral AI наведува дека сериозно ја сфаќаат борбата против дезинформациите и постојано ги подобруваат своите системи за препознавање, забележувајќи дека нивниот производ Vibe Work содржи дополнителни механизми за проверка на контекстот.
OpenAI изјави дека истражувањето користело постар модел кој повеќе не е во употреба и не бил достапен за корисниците на ChatGPT, туку само за програмерите. Компанијата додава дека имаат специјални тимови задолжени за откривање и спречување на операции со странско влијание.
Anthropic вели дека нивниот модел Claude има напредни механизми за идентификување на дезинформации и е дизајниран да им претстави на корисниците различни перспективи, особено кога постојат индикации дека одреден извор следи политичка или друга агенда од интерес.
