fbpx

Томас Гуритин: Без модерирање вештачката интелигенција ќе биде повеќе штетна отколку корисна

Интервју

22.02.24

Прегледи

Вештачката интелигенција може да биде најнепристрасната што можеме да ја замислиме, но на крајот луѓето се тие кои со своите предрасуди и „рефлекси“ за цензура учествуваат во процесот на модерирање, вели Томас Гуритин, експерт за разговорна вештачка интелигенција и четботови. Во пресрет на меѓународниот симпозиум за медиумска писменост во добата на вештачка интелигенција, што го организира Интитутот за комуникациски студии со нашите партнери, ова интервју е вовед во моментално една од најдискутираните теми во светот, на која Гуритин ќе даде осврт како учесник на настанот. Тој смета дека инвестирањето во вештачката интелигенција е само дел од решението, бидејќи треба да се направи повеќе во однос на дигиталната писменост за справување со дезинформациите на Интернет.

На кој начин може да се искористи вештачката интелигенција за откривање на дезинформации и справување со нивно ширење на дигиталните платформи и социјалните мрежи?

-Вештачката интелигенција не треба да се смета (и да се користи) како „алфа и омега“ во решавањето на проблемот со дезинформациите. Се разбира дека таа е одлична алатка која ќе ни помогне да ги следиме шемите и изворите на дезинформации и со која ќе се обидеме да анализираме голема количина на содржина во реално време, но тоа нема да биде доволно.

Добро знаеме дека разоткривањето и проверката на фактите, колку и да е клучно и корисно, не е толку вирално како што е самата дезинформација. Кога живеете во вашиот сопствен балон на заговори, контра-содржините немаат многу влијание на вас, бидејќи штетата е веќе направена.

Каква улога може да има вештачката интелигенција во идентификувањето на deepfake содржината и во спречувањето на нејзините штетни влијанија врз перцепцијата и довербата кај јавноста?

-Вештачката интелигенција може да помогне да се препознаат тенденции и да се отстранат deepfake материјалите, но откако содржината ќе се појави на дигиталните платформи и ќе стане вирална, можеби е предоцна да ја запреме. Не сум сосема сигурен дека вештачката интелигенција може да ни помогне да ги спречиме штетните влијанија врз перцепцијата и довербата кај јавноста. Регулирањето на содржината, ефективното модерирање на дигиталните платформи и писменоста во однос на вештачката интелигенција, според мое мислење, се многу поважни од имањето на најнов модел на вештачка интелигенција.

Можете ли да дадете примери на успешни примени на вештачка интелигенција кои се покажале ефективни во справувањето со кампањи за дезинформирање или за пласирање содржини кои нè наведуваат на погрешни заклучоци?

-Во денешно време, големите јазични модели и сите генеративни апликации за вештачка интелигенција кои го следат „GPT“ моделот се поефикасни во тоа да создаваат поголемо количество и поштетна содржина отколку во тоа да прават анализа и да го спречуваат ширењето на истите тие содржини. Сепак, истражувачите работат напорно за да добијат резултати од анализирање на големи количини на податоци по спроведената кампања за дезинформации за да предвидат која би била следната штетна кампања.

Ваквата насока не е вештачка по природа, туку многу голем човечки инженеринг и вистински луѓе. Податоците кои се добро означени се еден од клучевите за успехот и многу академици и во таа смисла институции, напорно работат за да ги идентификуваат вистинските метрики со кои ќе се овозможи балансирање на сетовите на податоци. Еден таков неодамнешен пример е сетот на податоци „Пропагандистички псевдо-вести“ од авторот Géraud Faye et al. кој беше објавен неодамна во „Разоткривање на пропагандата: анализа на стилски знаци преку правење споредба на прибелешки направени од човекот и класификација направена од машината“.

Спроведена е, исто така, и уште една интересна студија во врска со дискусиите на социјалните мрежи за време на пандемијата за да се добие увид во тоа на кои теми се дискутирало на социјалните мрежи во Франција и во Кина: Актуелности кои се тема на дискусија на кинеските и француските социјални мрежи за време на карантинот поради КОВИД-19: Компаративна инфодемиолошка студија заснована на моделирање на теми“.

Папагали погодуваат кој ќе биде следниот збор

Во контекст на дезинформациите, како гледате на рамнотежата помеѓу модерирањето на содржина кое е управувано од вештачката интелигенција и потенцијалните проблеми поврзани со цензурата или кршењето на слободата на говорот?

-Мислам дека повеќе се работи за реакцијата на самите дигитални платформи, во смисла на тоа колку брзо и ефикасно тие можат да спроведат модерирање. Секоја земја или регион може да има свои специфични проблеми и прашања во врска со цензурата, како и разни закони за справување со ова прашање, но на крајот социјалните мрежи мора да ги спроведуваат регулативите. Вештачката интелигенција може да биде најнепристрасната и најчистата што можете да ја замислите, но на крајот луѓето се тие кои со своите предрасуди и „рефлекси“ за цензура учествуваат во процесот на модерирање.

Најдобриот баланс би бил да се биде внимателен во врска со потенцијалната пристрасност и штета која може да ја предизвика вештачката интелигенција и да се има јасен став во однос на политики за модерирање кое го прават луѓето. Тие политики може да варираат во зависност од културниот или политичкиот контекст, но тие мора да бидат јасни, напишани и одобрени од сите засегнати страни во секој момент.

Кои предизвици постојат во користењето на вештачката интелигенција кога станува збор за справувањето со дезинформациите и како може да се решаваат овие предизвици за да се обезбедат точни и непристрасни резултати?

-Вештачката интелигенција веќе неколку години се заснова на големите јазични модели, а сега и на големите „мулти-модални“ модели. Со други зборови: папагали (да ги парафразирам Emily M. Bender at al, 2021) кои погодуваат кој ќе биде следниот збор и следниот збор (итн...) сè додека не се состави целосната реченица.

Користењето на овој вид голем модел, според самиот свој дизајн, е пристрасна работа. Тој ќе анализира и/или ќе создава нови текстови или визуелни слики врз основа на сетови на податоци според кои се обучува, а за кои не знаеме ништо. Ќе ги повторува предрасудите од овој сет податоци на начинот на кој ќе обработува нови информации. Ние би сакале да создадеме одлични непристрасни алгоритми кај вештачката интелигенција за да се справува со сите видови дезинформации одеднаш, но ние, едноставно, не сме во можност да го направиме тоа. Со цел да обезбедиме точни и непристрасни резултати, потребно е да владееме со сетот на податоци кој се користи за обуката, да бидеме сигурни дека тој го претставува типот на кампања против дезинформациите што сакаме да ја следиме и, можеби, да се задржиме на само еден вид закана.

Важно е да ги намалиме своите очекувања со цел да се фокусираме на оние случаи кои значат реална употреба и детално да постапуваме во однос на нив со голема експертиза на вистински луѓе кои работат во позадината за да се обезбеди квалитет на податоците со кои се „храни“ вештачката интелигенција и да се проценат резултатите. Човечкиот надзор е, според мое мислење, клучот ако сакаме да имаме добра употреба на вештачката интелигенција во делот на дезинформациите, а и во сите сектори, воопшто.

Превенцијата има клучно значење

Како вештачката интелигенција може да придонесе за брза проверка на информациите при вонредни вести за да се спречи ширењето на лажни или погрешни наративи?

-Вештачката интелигенција може да биде многу корисна кога е обучена за специфични наративи и за мрежи за дигитално дезинформирање за да може да ги открие слабите сигнали пред да биде доцна. Во денешниов свет во кој информациите брзо се шират, превенцијата има клучно значење. Дури и со донесени регулативи и закони, кога нешто ќе излезе надвор и ќе стане вирално, веќе е предоцна за да можеме ефективно да му се спротивставиме. Не сум сигурен дека ќе можеме да го спречиме ваквото ширење благодарение на вештачката интелигенција, но технологијата секако може да ни помогне да заштедиме скапоцено време во таков случај.

Во однос на едукацијата на корисниците, на кој начин може да се користи вештачката интелигенција за подобрување на медиумската писменост и да им се помогне на поединците во критичката проценка на информациите со кои тие се среќаваат онлајн?

-Јас верувам во дигитална писменост и во писменоста во однос на вештачката интелигенција и, пред сè, во критичкото размислување и здравиот разум кога станува збор за проценување на информациите и дезинформациите. Потребно е да им помогнеме на поединците да ги развијат тие вештини преку овозможување на нов тип на едукација и најдобри практики со цел сите да бидат ангажирани во своето секојдневно (онлајн и офлајн) медиумско консумирање.

Идентификувањето на дезинформациите и борбата против нив започнува на индивидуално ниво, со тоа што треба да се открие дали некоја вест е вистинска или не. Дезинформациите честопати започнуваат со перцепцијата дека „може да е реално и сакав да верувам во тоа, па затоа ја споделив“ и ова не е проблем со вештачката интелигенција, туку е проблем во однос на едукацијата.

Ширачите на дезинформации се чекор напред

Кои етички размислувања треба да се земат предвид при развивање и примена на решенија со вештачка интелигенција, а со цел откривање и спречување на дезинформации?

-Како што спомнав и претходно, надзорот од страна на луѓето е нешто неизбежно во секој од чекорите на развој на овој вид алатки. Законот за вештачка интелигенција е сосема јасен во однос на тоа, и тоа е добар знак: надзорот од луѓето треба да биде задолжителен и тој мора да стане задолжителна најдобра практика при развивање и примена на алатки за откривање и спречување на дезинформации.

Во делото Пропаганда (1928), Едвард Бернајс напиша: „Сега „јавното мислење“ се издвојува како сила со која мора да се управува, и тоа не преку паметни претпоставки, туку од страна на експерти кои се обучени да ја вршат „таа многу важна работа“. Дали сакаме самата вештачка интелигенција да биде новиот експерт или експерти кои се обучени да управуваат со јавното мислење?

Како може соработката помеѓу технолошките компании, државите и истражувачките институции да придонесе за посеопфатен и ефективен пристап во борбата против дезинформациите со користење на вештачката интелигенција?

-Соработката помеѓу сите приватни и јавни организации и тела кои се вклучени во борбата против дезинформациите, и тоа со користење на вештачка интелигенција како и со користење на „стара школа“, е од витално значење. Оние кои шират дезинформации и теории на заговор секогаш се еден чекор понапред во однос на тоа како да ги натераат луѓето да кликнуваат на реклами, па затоа платформите мора да дејствуваат, а државите треба да направат повеќе за да ги спроведат правилата за модерирање и дезинформации на интернет.

Со оглед на развојот на тактиките за дезинформирање, на кој начин технологиите со вештачка интелигенција би можеле да се прилагодат за да фатат чекор и да ја задржат својата ефикасност во заштитата на онлајн екосистемите за информирање?

-Не знам дали вештачката интелигенција како технологија е навистина чекор напред пред тактиките за ширење на дезинформации. Според својата природа, денешните големи модели се обучени со користење на претходни кампањи за дезинформации и тие нема да бидат голема помош во откривањето на сосема нови начини на користење на социјалните мрежи за цели на ширење дезинформации.

Сепак, користењето на вештачката интелигенција за давање исклучително силен поттик на институциите, академиците и приватните компании во насока на тоа да бидат поефикасни во препознавањето на штетни мрежи, наративи и делувања, е нешто што секако е многу важно. Но, уште еднаш треба да потенцираме дека инвестирањето во вештачката интелигенција е само дел од решението на проблемот – ние треба да направиме повеќе во однос на дигиталната писменост и писменоста во однос на вештачката интелигенција за да им помогнеме на луѓето да ги откриваат дезинформациите на интернет и да се справуваат со истите.

 

Оваа содржина ја изработи Институтот за комуникациски студии.

Новинарка: Соња Крамарска