„Мајкрософт“ снажно подржава предлог закона о технологији за препознавање лица

У предлогу закона о коришћењу технологије препознавања лица који подржава компанија „Мајкрософт“, три речи стоје између грађана и њихових грађанских права. У Вашингтону, првој америчкој држави која је усвојила закон којим се регулише коришћење технологије препознавања лица, сасвим је законито да владине агенције користе ту технологију како би грађанима ускратиле приступ основним правима и услугама, али под једним условом. Системи засновани на вештачкој интелигенцији морају бити подвргнути „смисленом људском прегледу“. Према законским одредбама, све док обучено људско биће има моћ́ да поништава одлуке машина, владе могу да користе системе за препознавање лица како би људима ускратиле приступ кредитима, становању, осигурању, образовању, запошљавању, здравственој заштити, храни, води или неким другим грађанским правима. Закон не регулише да ли приватне компаније могу да користе технологију и, ако могу, како треба да је користе. Аутор закона који је усвојен у држави Вашингтон запослен је у компанији „Мајкрософт“, а усвајању је претходио процес невероватно снажног лобирања који је водио софтверски гигант са седиштем у Сијетлу. Уследила су преписивања истог закона само због оне три речи које смо навели. Наиме, пошто је закон усвојен у држави Вашингтон у јануару 2020. године, законодавци у Калифорнији, Мериленду, Ајдаху и Јужној Дакоти предложили су сличне законе. Сви они садрже готово идентичне реченице о додатном прегледу који ће обављати људи, опет под притиском „Мајкрософтовог“ лобирања.

Пошто савезне регулативе о коришћењу технологије за препознавање лица нема, државне и локалне владе почеле су да попуњавају ту празнину својим законима. Технолошке компаније, на челу са „Мајкрософтом“, послале су лобисте у главне градове широм земље да подрже прилично попустљиве прописе о коришћењу технологије за препознавање лица, уместо да охрабре забране које би умањиле развој и продају технологије. „Чињеница да многи од ових предлога закона личе једни на друге и поклапају се са оним што захтевају технолошке компаније само је доказ да је њихов утицај присутан“, рекао је Џејмсон Спивак, сарадник у Центру за приватност и технологију Универзитета Џорџтаун. „С обзиром на то да су предухитрили све разговоре о забрани, мораторијуму или строжим прописима, компаније су успеле су да усмере размишљања надлежних како њима одговара.“

Заштитници грађанских слобода забринути су да ће попустљивији прописи, који омогућавају компанијама да без било каквих измена одрже своје системе за препознавање лица нетакнутима, оставити грађане прилично незаштићене. Када је вашингтонски закон усвојен у марту, локална подружница Америчке уније за грађанске слободе (ACLU) обрушила се на клаузулу о „смисленом људском прегледу“, за коју каже да није довољна заштита од злоупотребе технологије за препознавање лица. 

„Људи рутински подлежу пристрасности аутоматизације, препуштајући се одлукама које доносе рачунарски системи, уместо да користе сопствене процене“, тврди Џенифер Ли, представница Уније у Вашингтону. „„Смислени људски преглед“ је изузетно мањкав концепт и не би требало да се користи као оправдање за употребу технологије за надзор и препознавање лица да би се донеле суштинске одлуке.“ Стручњаци који проучавају етику вештачке интелигенције годинама упозоравају на неопходно постојање надзора људи над системима вештачке интелигенције. Ипак, Марија Де-Артеага, доцент на Универзитету у Остину, која проучава улогу коју људи играју у системима доношења одлука који се заснивају на вештачкој интелигенцији, каже да само присуство неке особе није коначно решење.

„Размишљање о људском надзору је веома важно, али само по себи вам не пружа никакве гаранције“, рекла је. Чиниоци као што је време које људи имају за преглед рада алгоритма и врста обуке коју добијају играју велику улогу у томе колико су добри у проналажењу грешака машина, објаснила је она. Вашингтонски закон – и слични предлози закона у Калифорнији, Мериленду, Ајдаху и Јужној Дакоти – садрже идентичан, непрецизан језик који се може тумачити на више начина. У предлозима закона се једноставно каже да ревизори морају да „имају овлашћење да мењају одлуку која се прегледа“ и да се периодично обучавају како функционишу системи за препознавање лица и како да тумаче одлуке.

„Закони, у ствари, не мењају начин коришћења система за препознавање лица, посебно када је језик нејасан, као што је то случај и у овом закону“, рекао је Спивак. Додао је да би прописи били кориснији ако би прецизирали да људи који врше ревизију поштују, на пример, скуп смерница заснованих на стандардима Научне радне групе за идентификацију лица за упоређивање слика и обуку. Ипак, Де-Артеага каже да захтеви које треба да испуне ревизори су непотпуни и неодговарајући на много основнијем нивоу. „Ангажовање људи се не односи на чињеницу да су слике лица неоправдана основа за доношење одлука у великом броју случајева“, рекла је она.

АЦЛУ тврди да је главни проблем предлога закона који подржава компанија „Мајкрософт“ тај што, у замену за попустљива ограничења, правно уређује употребу система за препознавање лица за доношење критичних одлука о животу људи: „Алтернативни прописи које подржавају велике технолошке компаније, а које не подржавају законом погођене заједнице не пружају адекватну заштиту – у ствари, прете да ће озаконити инфраструктурно ширење моћне технологије за надзор и препознавање лица.“