Кога во 2013 година, Мичиген го автоматизирал системот за бенефиции за невработени, 34.000 луѓе одеднаш биле означени како измамници на системот. Додека се испоставило дека се работи за грешка во системот, за кој ќе ви речат дека е компјутерски, објективен и непристрасен, многумина отишле во банкрот а некои и се самоубиле.
Дали ќе добиете кредит за кола или стан, дали вашето портфолио дозволува да изнајмите простор но и дали ќе имате пристап до некои основни услуги како што е здравствена нега или место во градинка, сè се тоа одлуки кои сè почесто биваат носени од алгоритми, што приватни, што државни.
Како тие функционираат, со што податоци се хранети и како се наштимани, обично останува во длабока сенка, особено за сиромашните кои немаат никакви материјални и правни ресурси да се справат со невидливиот противник.
„Некои од нас ќе продолжат да живеат нормално, потполно несвесни за ова. Но за оние со малку пари, рапидниот раст и прифаќање на автоматизираните одлуки создава скриена мрежа полна со меѓусебно поврзани стапици,“ пишува Карен Хао во Технолоџи Ривју.
Кога на суд се нашол случај на возрасна жена кој изгубила часови домашна посета иако здравствената состојба била таква што таа помош требало да се зголеми, никој од вработените во надлежната служба не знаел да објасни на што се должи ваквата промена. Сè додека човек од повисоките ешалони на власта не објаснил дека во последно време биле сменети алгоритмите кои решаваат такви случаи.
„И што ја да правам во таков случај? Вкрстено да испрашувам алгоритам?“ се прашува адвокатката на жената, Мишел Гилман.
Такви примери има многу, кога луѓе масовно ги губеле стекнатите здравствени права, а никој не знаел да објасни во што е коренот на проблемот. Низ долга и за некои од нив, задоцнета процедура, некогаш било утврдувано дека луѓето изгубиле здравствена заштита само затоа што старите прашалници со 20 прашања, биле заменети со нови, со 283 прашања!
Дел од адвокатите кои имаат вакви клиенти сфаќаат дека сами се беспомошни па почнуваат да се организираат и вмрежуваат иако им е јасно дека им претстои макотрпен напор и разни обуки за да бидат подготвени да се борат со алгоритмите. Дел од тоа е извештајот на Гилман, Poverty Lawgorithms кој меѓу другото е и збирка на разно-разни алгоритми со кои може да се соочи адвокат кој застапува некоја сиротиња.
