fbpx

Политиката зад алгоритмите за машинско учење 

Марк Мекарти

Политика

09.08.19

Прегледи

Марк Мекарти (Mark MacCarthy)

Технологијата не е судбина. Ние ја обликуваме неа пред таа да нè обликува нас. Бизнис лидерите и креаторите на јавни политики можат да ги развијат и применат технологиите кои тие ги сакаат, според нивните институционални потреби.

Околу 1200 пр.н.е., династијата Шанг во Кина развила фабрички систем за правење илјадници огромни бронзени садови за секојдневна употреба и за обредни церемонии. Во овој ран пример за масовно производство, процесот на лиење бронза барал детално планирање и координирање на големи групи на работници, од кои секој вршел одделна задача по точно утврден редослед.

Слично сложен процес била и изградбата на познатата армија на војници од теракота која Кин Ши Хуанг, првиот император на Кина, ја открил преку илјада години подоцна. Според Музејот за азиска уметност во Сан Франциско, статуите „биле создадени со помош на фабрички производен систем кој го отворил патот за напредок во масовното производство и трговија“.

Некои школари шпекулирале дека овие рани форми на прескриптивни работни технологии играле важна улога во обликувањето на кинеското општество. Меѓу другото, тие како да ги направиле луѓето повеќе склони за прифаќање бирократски структури, социјална филозофија која ја нагласува хиерархијата и верување дека има еден и единствен исправен начин за правење на нештата.

Кога за прв пат се појавиле индустриските фабрики во Европа во деветнаесеттиот век, дури и строгите критичари на капитализмот, како што бил Фридрих Енгелс, признале дека масовното производство бара централизирано управување, без оглед дали економскиот систем е капиталистички или социјалистички. Во дваесеттиот век, теоретичарите како Лангдон Винер го прошириле ова размислување и за други технологии. Тој мислел дека атомската бомба, на пример, треба да се смета како „интегрално политички артефакт“ затоа што нејзините „смртоносни карактеристики наложуваат таа да се контролира со централизирана, крута хиерархиска скала на надреденост“.

Денес, тоа мислење можеме уште повеќе да го прошириме. Земете ги за пример алгоритмите за машинско учење, најважната технологија со општа намена што денеска се користи. Со помош на примери од вистинскиот свет за имитирање на човечките когнитивни капацитети, овие алгоритми веќе стануваат сеприсутни на работните места. Но за да може да се извлечат максимални придобивки од овие технологии, организациите мора да редефинираат дадени човечки задачи како предвидувачки задачи, кои се најсоодветни за силните страни на овие алгоритми.

Клучен елемент на алгоритмите за машинско учење е дека подобро функционираат со користење на повеќе податоци. Како резултат на тоа, користењето на овие алгоритми создава технолошки импулс да се сметаат информациите за луѓето како податоци што може да се снимат и да се пристапат. Исто како и системот на масовно производство, тие се „интегрално политички“ затоа што нивната суштинска функционалност наложува извесни социјални практики, а истовремено обесхрабрува други практики. Конкретно, алгоритмите за машинско учење работат директно спротивно на желбата на поединците за лична приватност.

Систем заснован на јавна достапност на информации за поединечни членови на заедницата може да изгледа добар за приврзаниците на комунитаризмот, како што се социологот Амитаи Ециони, за кого ограничувањето на приватноста е начин за спроведување на социјалните норми. За разлика од комунитаријанците, алгоритмите немаат поврзаност со социјалните норми. Нивната единствена грижа е да прават подобри предвидувања, со трансформирање на што е можно повеќе области од животот на луѓето во податочни сетови што можат да се користат по пат на податочно рударство.

Згора на тоа, додека силата на технолошкиот императив ги претвора оние Западњаци индивидуалисти во случајни комунитаријанци, истовремено ги прави и посвесни за култура на меритократија, односно управување од лица кои се избрани по основ на заслуги, заснована на алгоритамски оценувања. Без оглед дали е на работа, во училиште, дури и на апликации за наоѓање партнери, ние веќе се навикнавме квалификациите да ни ги проценуваат безлични алатки, а потоа според тие оценки да добиваме свое место во хиерархијата.

Факт е дека алгоритамското оценување не е нешто ново. Претходната генерација, школари како Оскар Х. Ганди предупредија дека се претвораме во општество со бодови и рангирања и побараа повеќе одговорност и надоместување за грешки предизвикани од технологија. Сепак, за разлика од современите алгоритми за машинско учење, постарите алатки за оценување беа разумно добро разбрани. Тие носеа одлуки врз основа на релевантни нормативи и емпириски фактори. На пример, не беше тајна дека акумулирањето на голем долг на кредитната картичка може да ги намали шансите за добивање кредити во иднина.

Спротивно на тоа, новите технологии на машинско учење нуркаат во длабочините на податочните сетови за да најдат поврзаности кои се предвидувачки, но се недоволно разбрани. На работното место, алгоритмите можат да ги следат разговорите на вработените, каде одат на ручек и колку време минуваат на компјутер, телефон или на состаноци. Со тие податоци, пак, алгоритмот развива софистицирани модели на продуктивност кои се далеку поопсежни од здраворазумните интуиции. Во алгоритамска меритократија, што и да побараат моделите станува новиот стандард за одличност.

Сепак, технологијата не е судбина. Ние ја обликуваме неа пред таа да нè обликува нас. Бизнис лидерите и креаторите на јавни политики можат да ги развијат и применат технологиите кои тие ги сакаат, според нивните институционални потреби. Во наша моќ е да фрламе мрежи на приватност околу чувствителни области на човечкиот живот, да ги заштитиме луѓето од штетните употреби на податоците и да бараме алгоритмите да достигнат рамнотежа помеѓу предвидувачката точност против други вредности како што е праведноста, отчетноста и транспарентноста.

Но ако го следиме природниот тек на алгоритамската логика, неизбежно ќе биде да стигнеме до повеќе меритократска и комунитарна култура. Ваквата стабилна трансформација ќе има далекудосежни импликации за нашите демократски институции и политички структури. Како што забележале кинеските школари Даниел А. Бел и Жанг Веивеи, главната политичка алтернатива за западните либерално-демократски традиции се комунитарните институции кои и натаму еволуираат во Кина.

Во Кина, колективните одлуки не се легитимираат со јасна согласност од граѓаните, а луѓето општо имаат помалку применливи права против владата, особено кога станува збор за надзор. Улогата на обичниот кинески државјанин во политичкиот живот главно е ограничена на учество во локални избори. Лидерите на земјата, пак, се бираат преку меритократски процес, и се сметаат себеси како старатели за народната добросостојба.

Не е веројатно дека либералните демократии ќе се префрлат во целост на таков политички систем. Сепак, ако сегашните трендови во бизнисот и потрошувачката култура продолжат, можеме наскоро да имаме повеќе сличности со кинеските меритократски и комунитаријански традиции отколку со нашата историја на индивидуализам и либерална демократија. Ако сакаме да го смениме правецот на движење, ќе мора да ги ставиме нашите политички императиви пред императивите на нашите технологии.

Марк Мекарти е факултетски професор на Универзитетот Џорџтаун, соработник на Центарот за бизнис и јавни политики на Џорџтаун и Виш заменик претседател за јавни политики на Здружението за софтверска и информатичка индустрија (SIIA).

Copyright: Project Syndicate, 2019.
www.project-syndicate.org

Марк Мекарти

Марк Мекарти е факултетски професор на Универзитетот Џорџтаун, соработник на Центарот за бизнис и јавни политики на Џорџтаун и Виш заменик претседател за јавни политики на Здружението за софтверска и информатичка индустрија (SIIA).