Џој Буоламвини е Американка со потекло од Гана, која работи во медиумската лабораторија на Ем-ај-ти. Пред неколку години таа се обидела да направи уметничко-технолошки проект, „мотивирачко огледало“, кое врз ликот на сопственикот проектира фотографии од славни личности слични на него. Нo уште на самиот почеток наишла на еден мал проблем: софтверот за препознавање лица воопшто не го регистрирал нејзиниот црн лик. Тоа го правел само кога таа ќе ставела бела маска.
Одеднаш еден лежерен уметнички проект прераснува во нешто повеќе и во нешто поморничаво. Џој се посветува на проучување и на активизам на оваа тема, поврзувајќи се со други експерти, автори и истомисленици. Сите тие се согласуваат, дека алгоритмите кои препознаваат лица се некој вид „црна кутија“ - се хранат од податоци кои ние им ги нудиме, но процесите на нивното учење и начинот на кој доаѓаат до заклучоци се уште не ни е до крај познат. Така се случува некој да биде легитимиран на улица затоа што полициските камери за надзор (поставени на јавни места под сомнителни законски околности) го препознаваат како потенцијален криминалец, а тоа воопшто да не е бараниот човек. Особено ако не е маж, и не е белец.
Алгоритамската штета сепак не се однесува на технологијата за фацијално препознавање, туку и на голем број други аспекти, за кој човек воопшто не е ни свесен се додека не ја почувствува асиметричноста на дигиталната моќ. Имено, оној кој ја поседува ваквата технологија (државите, големите онлајн корпорации) може да следи, снима, архивира, и врз основа на сето тоа да манипулира или обвинува (па макар бил и само претседател на куќен совет), но оној кој нема пристап до неа може само да го трпи, или евентуално да се обиде да се буни против невидливиот непријател.
Филмот ги претставува вторите, активистите против алгоритамската опресија и нивните мали но значајни заслуги во оваа смисла. Еден од примерите се однесува на наставник од средно американско училиште кој требало да ја загуби работата затоа што алгоритамот го оценил неговиот труд како „незадоволителен“, иако професорот е со години наградуван за посебни залагања и омилен кај учениците. Дали дигиталната одлука за помалата вредност на наставникот и неговите успеси можеби биле резултат на фактот што тој се презива Сантос?
Неколку нешта одѕвонуваат и по завршувањето на филмот, кој сепак има оптимистичен тон. „Податоците се судбина“ бидејќи во себе го содржат минатото, сето наталожено искуство, ставови и светогледи на човекот на денешнината. Ако е тоа така, тогаш сè додека алгоритмите исклучиво го реплицираат светот, социјален прогрес едноставно не е можен. Етиката не може да произлезе од математика, туку од додадена вредност која е човечка, а не машинска. До тогаш, сета технологија ќе биде полна со кодирани предрасуди, оние нашите.
Илина, Букбокс
