Прашањето веќе не е дали вештачката интелигенција ќе се користи во војување, туку до каде ќе ѝ се дозволи да стигне и кој, на крајот, ќе ја носи одлуката за употреба на смртоносна сила.
Одлуката на Пентагон да ја стави американската компанија Антропик (Anthropic), креатор на моделот за вештачка интелигенција Клод (Claude), на листа на компании со кои нема да соработува, беше изненадување за технолошкиот свет. Во исто време, таа отвори сериозно прашање за тоа каде, како и за кои цели денес се користи вештачката интелигенција.
Причината е тоа што Антропик одбиле нивниот модел да биде користен од Пентагон за воени намени, односно за автономно ракување со оружје и за масовен надзор над американските граѓани. На прв поглед, таквиот потег може да се чита како обид компанијата да постави јасна етичка граница. Но, сликата не е толку едноставна. Клод веќе бил користен и за анализа на податоци и за планирање операции, меѓу кои во јавноста се споменува и киднапирањето на венецуеланскиот претседател Николас Мадуро.
На местото на Антропик влегува ОпенАИ (OpenAI), компанијата што стои зад ЧатЏПТ (ChatGPT). Ова е особено интересно затоа што извршниот директор на ОпенАИ, Сем Алтман, претходно тврдеше дека и нивната компанија има црвени линии слични на оние на Антропик, односно дека нивните модели не треба да се користат во автономни оружени системи и во масовен надзор над граѓаните. Сепак, по одлуката за соработка со Пентагон, Кејтлин Калиновски (Caithlin Kalinowski), шефица на одделот за роботика во ОпенАИ, поднесе оставка.
Ова претставува сериозен удар за ОпенАИ, бидејќи компанијата останува без важен човек во развојот на хардверските компоненти поврзани со ВИ. Во меѓувреме, по овие пресврти во односите меѓу двете водечки компании и Пентагон, се зголеми и интересот за Клод, па Антропик почна посериозно да му конкурира на ОпенАИ и во бројот на корисници и во пазарната позиција.
Колку и да звучи мрачно развојот на вештачката интелигенција во насока на автоматизирано уништување, постои компанија што одамна е длабоко вклучена во воената инфраструктура на САД, а тоа е Палантир (Palantir Technologies). Во рамки на договор со Пентагон вреден 10 милијарди долари, Палантир развива и испорачува системи што во реално време идентификуваат, приоретизираат и таргетираат цели, користејќи податоци од сателити, дронови и радари. Еден од тие системи, Maven Smart System (MSS), практично функционира како дигитален мозок на бојното поле. Платформите Gotham, AIP и Apollo се користат за собирање и обработка податоци, антитерористички операции и координација на воени комуникации. Gotham е присутен во американската војска уште од војните во Авганистан и Ирак, а Палантир ја снабдуваше и израелската војска со ВИ-алатки користени во војната во Газа.
Извор: envato
Кина: државна стратегија за ВИ и воена надмоќ Кина ја третира вештачката интелигенција како стратешки национален приоритет и ја развива преку тесна координација меѓу државата, академската заедница, приватниот сектор и војската. Нејзиниот пристап вклучува масовни државни вложувања во истражување и развој, образовни програми за обука на ВИ-специјалисти, меѓународна технолошка соработка и таканаречена воено-цивилна фузија, односно вградување цивилни иновации во воените капацитети. Кинеската Народноослободителна армија (PLA, Liberation Army) ја интегрира ВИ во повеќе воени цели, меѓу кои: беспилотни и автономни борбени системи, подобрена ситуациска свесност на бојното поле, мултидоменски операции на копно, море, воздух, во сајбер-просторот и во вселената и системи за обука и поддршка при донесување одлуки базирани на ВИ. Напредокот во системите на оружје што се опишуваат или промовираат како „автономни“ или „интелигентни“ се надоврзува на постојните предности во истражувањето и развојот на беспилотни системи и ракетна технологија. Меѓу главните кинески компании вклучени во развој на ВИ со воен потенцијал се Baidu, која работи на машинско учење, автономни системи и анализа на големи податоци, Alibaba, особено преку AliCloud, која развива cloud-инфраструктура и големи ВИ-модели, Tencent, која има значителни инвестиции во вештачка интелигенција, и SenseTime, специјализирана за компјутерски вид и препознавање лица, технологии важни и за надзор и за автономни системи. Tencent и SenseTime се најдоа и на американски листи на компании со потенцијални врски со воената индустрија.
Иако кинеските воени ВИ-системи сè уште заостануваат зад американските, нивниот развој е брз и веќе дава резултати на терен, особено во тестирањата во Јужното Кинеско Море. Тоа предизвикува растечка загриженост кај Јапонија и Јужна Кореја, особено поради јакнењето на кинеските носачи на авиони, беспилотните системи и дроновите што користат вештачка интелигенција.
Да не заборавиме на Русија
Русија, пак, ги насочува своите ресурси кон тактички и конкретни софтверски решенија, обликувани од непосредните потреби на бојното поле. Долготрајната и високоинтензивна војна во Украина ги откри ограничувањата на централизирана и системска модернизација на командните и контролните системи, но и ја нагласи потребата од забрзување на таканаречениот „kill chain“, односно времето од откривање цел до напад.
Бидејќи беспилотните системи сега извршуваат до 80% од руските оружени мисии, тежиштето на иновациите во C2 се префрлило кон софтвер што управува со дронови и ги интегрира со артилеријата и другите оружени единици. Цивилни инженери и доброволни програмери се фокусираале на затворање на
оваа празнина преку создавање алатки што обезбедуваат ситуациска свесност, автоматска корекција на огнот и директно поврзување на операторите на беспилотни летала со вооружените единици. Рускиот софтверски комплекс „Glaz/Groza“ го демонстрира овој тренд, функционирајќи како единствен извидувачко-ударен работен процес кој ја претвора снимката од дронови во податоци за таргетирање и го скратува времето од откривање до погодок од часови на минути.
Во рамки на руските C2 системи, вештачката интелигенција првенствено се замислувала како поддршка, а не како замена за човечкото одлучување. Руската воена доктрина на ВИ ѝ доделила две основни улоги: подобрување на обработката и интерпретацијата на сензорските податоци и обезбедување предиктивна поддршка при донесување одлуки преку прогнозирање, генерирање сценарија и препораки за воените команданти.
Целта на Русија не е технолошка елеганција, туку селективна и сурово прагматична примена на вештачката интелигенција за поголема ефикасност на бојното поле. Но, прашањето каде и врз кого ќе се насочи таа ефикасност, и натаму останува во човечки раце.
Кој навистина одлучува: машината или човекот?
Судирот меѓу Пентагон и Антропик, што ОпенАИ брзо го искористи, всушност се врти околу две клучни прашања: масовниот надзор над граѓаните и развојот на автономно оружје што би можело без човечка контрола да одлучува кого ќе убие.
Додека САД бара креирање и употреба на овој вид на оружја, Русија отворено во своите ВИ системи има вградено ланец на контрола каде крајната одлука за употреба на смртоносна сила сепак останува кај човекот. На слична линија е и Кина која лобира во Обединетите Нации за глобална регулација на смртоносни автономни оружја (lethal authonomous weapons, LAWS), но е против целосно автономни вооружени системи.
Засега, решението што најчесто се споменува се глобални стандарди за управување со вештачката интелигенција, односно правила, регулативи и механизми за контрола што би требало да ја ограничат нејзината воена употреба. Прашањето, сепак, не е само дали машините ќе „полудат“, туку и какви луѓе ќе стојат зад нив, какви граници ќе им постават и колку навистина ќе бидат подготвени да ги почитуваат.
