Да ли компанија „Мајкрософт“ треба да помогне Пентагону да повећа „убојитост“?

Недавно сам писао о компанији „Мајкрософт“ која је преузела улогу савести технолошке индустрије. Поред свега осталог, компанија је саветовала савезну владу да успостави регулативе у домену технологије препознавања лица и упозорила на потенцијалне опасности технологије коју покреће вештачка интелигенција, од озбиљног угрожавања приватности до сузбијања слободе говора. Компанија је подстакла стварање међународног пакта који би ограничио употребу сајбер оружја у Сједињеним Државама и другим земљама. Међутим, „Мајкрософт“ тренутно покушава да потпише уговор вредан 10 милијарди долара са Министарством одбране. Уговор обухвата послове на развоју вештачке интелигенције и технологије рачунарства у облаку, али толико је контроверзан да је компанија „Гугл“ одустала да учествује у надметању пошто су њени запослени изразили забринутост и противљење. И запослени у „Мајкрософту“ су поступили на исти начин, али компанија се оглушила о њихове протесте.

Да ли компанија ставља моралне вредности на страну да би потписала врло уносан уговор? Или можда настоји да помогне у ојачавању и обезбеђивању националне армије? Ако бисмо се мало пажљивије позабавили питањима, дошили бисмо до правог одговора. Хајде прво да размотримо сам уговор. Односи се на програм који се зове JEDI (Joint Enterprise Defense Infrastructure) који ће развити инфраструктуру засновану на облаку за коришћење података у ратном периоду. Програм ће обухватити и коришћење вештачке интелигенције и машинског учења у рату. Док се с једне стране чује да технологије у облаку треба да омогуће борцима у рату да буду успешнији у борбама које се заснивају на прикупљању информација, други су много отворенији кад кажу да програм треба да повећа убојитост Министарства одбране.

Осима „Мајкрософта“, у трку за потписивање уговора ушле су „Амазон“ и „ИБМ“. Уочљиво је одсуство компаније „Гугл“ која је одустала због протеста својих радника као и у случају претходног уговора у вези са пројектом „Мавен“ у оквиру кога је вештачка интелигенција требало да тумачи податке са видео записа према којима би требало усмеравати нападе беспилотних летелица. После петиције коју је потписало четири хиљаде радника компаније у којој су захтевали да се изгласа јасна политика према којој „Гугл“ никада неће стварати технологију у служби рата. Пошто је одустала од тог уговора, кад се појавио програм JEDI, компанија није ни кренула у надметање изјављујући да не може бити сигурна да ће програм бити у складу са њеним принципима за коришћење вештачке интелигенције.

Запослени у „Мајкрософту“ су покушали да на сличан начин утичу на компанију да се не укључи у надметање за програм JEDI. У отвореном писму тврде да је уговор обавијен велом тајне и да им није познато шта би требало да направе. Запослили су се у компанији надајући се да ће на тај начин да омогуће сваком човеку на планети да постигне више, а не са намером да некоме одузму живот или појачавају убојитост. У писму наводе и речи Смита и Шума који кажу да развој вештачке интелигенције треба да буде вођен јаким моралним принципима да би се она одговорно стварала и користила. Ти етички принципи су праведност, поузданост, безбедност, приватност и сигурност, свеобухватност, транспарентност и одговорност. Писмо се завршава молбом да компанија одустане од трке за потписивање уговора.

Компанија се оглушила о молбе радника и наставила да се бори за потписивање уговора. Изјавила је да су још летос одлучили да се боре за уговор због дугогодишње сарадње са Министарством одбране. С друге стране, судбина свих који живе у Сједињеним Државама зависи од јаке одбране. Компанија жели да сви Американци, а нарочито они који служе својој земљи знају да им „Мајкрософт“ чува леђа и да ће имати приступ најбољој технологији коју компанија ствара.

Вештачка интелигенција, проширена стварност и остале технологије покрећу нова и озбиљна питања, укључујући и могућност оружја да делује самостално. Оног тренутка кад компанија обезбеди технологију војсци, више неће имати утицаја на то како ће се та технологија користити. Ипак, војска је под контролом грађана, а компанија се нада да ће, ако је присутна на том тржишту, моћи да се укључи у јавну дебату о томе како би се нове технологије могле одговорно користити.

И тако, што се компаније тиче, случај је закључен. Не одустаје се од уговора. Да ли би можда требало послушати запослене који траже одустајање од трке. Шта је морално урадити?

Било би добро да се у компанији о томе разговара, да се изнесу проблеми, да комитет за испитивање етичких вредности прегледа уговор и помогне у доношењу коначне одлуке. Свака другачија процедура тешко би нас натерала да верујемо компанији на реч кад каже да поступа према етичким нормама и да покушава да потпише уговор да би помогла земљи. Пре бисмо поверовали да се бори да дода још неколико милијарди у своју касу.

Рачунарски факултет Рачунарски факултет 011-33-48-079