Вештачка интелигенција која фалсификује стварност у име приватности

У ери пажљивог преуређивања видео-записа (енгл. deep fakes) да бисмо се добро забавили или да бисмо некога обманули, сада смо почели да их користимо да бисмо очували приватност. Као и сви други лажни видео-записи, и ови постављају озбиљна морална и етичка питања. Технологија деепфаке, о којој говоримо потиче, из берлинског стартапа под називом Brighter AI, који нуди решења за очување приватности у свету коме се све више шири политика надзора: замућују се регистарске таблице и замућују се лица тако да компаније које су власници камера могу да се придржавају европских закона о приватности, посебно Опште уредбе о заштити података о личности. Сада компанија лансира нови производ, ПротецтПхото, који на потпуно другачији начин успева да лицима на сликама обезбеди анонимност. „Издвајамо оригинална лица и замењујемо их новим лицима која не могу да се повежу са оригиналним“, рекао је директор компаније Brighter AI Марјан Глесер. „На пример, издвојимо једно лице и изменимо га тако да добијемо сасвим ново лице, али задржимо исту старост, пол и националност, које уопште не лични на оригинално. У суштини, то лице је потпуно вештачко и не би га било могуће препознати ни пратити.“

Глесеров циљ је вредан дивљења.

Данас у свету постоји више од 770 милиона надзорних камера, а очекује се да ће тај број достићи милијарду у 2021. години. Половина тих камера налази се у Кини, држави са историјом бруталне репресије против неистомишљеника и мањина, али многе су у Великој Британији, Сједињеним Државама и међу другим нацијама широм планете.

Да ли смо заиста слободни ако нас непрестано надгледају?

Такву ситуацију покушава да поправи Brighter AI.

Наравно, не надгледају нас само компаније и владе. Један од заједничких елемената протеста Блацк Ливес Маттер и недавне реакције полиције Сједињених Држава је камера паметног телефона. Изгледа да свакој препирци присуствује неколико десетина посматрача који снимају мобилним телефонима.

Дељење. Пренос уживо. Емитовање.

Глесер је забринут због дугорочних последица које има процес дељења лица људи без њихове дозволе. Због тога је и одлучио да мења лица, односно, да мења стварност или бар наш запис о томе. „Дакле, лица се разликују од оригинала. Ако је особа била на демонстрацијама, слика која је тада направљена неће помоћи никоме, ниједном органу реда, нити ће моћи да буде злоупотребљена ако не живите у демократској земљи или негде другде, нити ће та слика моћи да се користи против вас на било који начин“, каже он. Ипак, потпуно је свестан пристрасности коју вештачка интелигенција може да научи од људи и због тога покушава да очува полна и расна обележја оригиналног лица. Brighter AI то ради помоћу генеративне дубоке неуронске мреже и генерише потпуно нова лица која одговарају циљној старости, полу, етничкој припадности и још много чему другом. Тако би млади Азијат или старија црнкиња задржали очигледну старост и расу. И, каже Глесер, ако се не може одредити пол или етничка припадност, особи се не може променити изглед.

Нејасно је, међутим, како бисмо, у ствари, могли да сазнамо да ли је неуронска мрежа Brighter AI у потпуности верна стварности или садржи невиђене и непознате пристрасности које потичу од њених твораца или су засноване на хировима њене технологије.

Зашто једноставно не бисмо замутили лице?

Процес традиционалне заштите приватности на фотографијама прилично је једноставан и састоји се од незнатног замућивања лица или мењања неколико пиксела.

Глесер каже да то не функционише. 

„Ако посматрамо процес истраживања, али и развоја, можемо да видимо да је то игра мачке и миша“, рекао је. „Дакле, кад променимо неколико пиксела, преварићемо један детектор, један алгоритам, али доћи ће нови алгоритам и шта ћемо онда. Дакле, наш приступ је другачији, ми мењамо цело лице.“ Brighter AI означава слике воденим жигом да би се показало да људи на слици имају „синтетичка лица“. Људи, међутим, могу да онемогуће тај водени жиг.
Све то, наравно, отвара разна питања: Ко је заправо на фотографији? Да ли је фотографија која је на овај начин обрађена на било који начин стварна? Да ли је историјски важна? Ко може – или жели – да направи стварне фотографије стварних догађаја са стварним људима за стварне историјске записе? И, ако смо ово прихватили, да ли сви ми само правимо насумичне слике које су у основи лажне?

Поставља се питање да ли је нечије право на приватност изнад права других људи да прецизно памте и бележе догађаје уз одређену дозу истине. Одговора нема. Међутим, као глобално друштво, мораћемо да поставимо та питања и дођемо до неке врсте одговора, јер ако мислимо да је сада ситуација морално неизвесна, уз милијарду надзорних камера и милијарде паметних телефона, имаћемо још већих проблема кад паметне наочаре постану нови телефони, а више милијарди нас почне да хода унаоколо са камерама на лицу које су увек укључене и које проширују нашу стварност.

Технологија ПротецтПхото компаније Brighter AI тренутно је доступна путем веб-апликације. Компанија такође ради на апликацији за камеру, тако да приватност сваке слике коју направите може аутоматски да буде заштићена. (И, наравно, измењена.) У будућности би компанија могла да одлучи да ради са компанијом „Епл“ или „Гугл“ да би уградила своју технологију у подразумеване апликације за фотографисање у оперативним системима Андроид и iOS.
То је врли нови свет. Биће нам потребни врли људи да нам покажу пут у будућност.