Како дете О’Нил во математиката наоѓала засолниште од хаотичноста на реалниот свет. По кратка универзитетска кариера почнала да работи на Вол стрит, непосредно пред кризата од 2008. Тогаш почнала да ја разбира опасноста на математичките модели, или како што ги нарекува во насловот на нејзината нова книга - „Оружја на математичко уништување“.
Нејзината поента е дека моделите за предвидување никогаш не се неутрални, туку ги отсликуваат целите и идеологијата на оние кои ги создаваат. Од рангирањата за влез на универзитет или добивање работа, до одлуки за тоа какви реклами ќе гледате онлајн или кои стории ќе се појавуваат во вашиот фејсбук „фид“, алгоритмите играат огромна улога во нашите животи. Дури и полицијата користи „биг дејта“ кога се обидува да предвиди каде би можеле да се случат следни кривични дела. Но проблемот, според О’Нил е што овие овие алгоритми често не се способни да го отсликаат реалниот свет - тие не се наши алатки, туку наши господари.
„Не велам дека тие се целосно неточни. Дури и кога се точни тоа може да биде проблем. Она што се обидувам да го кажам е дека тие се моќно оружје, а на слепо се прифаќаат од повеќето луѓе, како непристрасни и фер. Би сакала да направам јасна разлика помеѓу точно и фер. Ова е главниот извор на забуна. Кога ќе чујат дека некој алгоритам е точен, тогаш луѓето престануваат да поставуваат прашања.“
Под нефер или неправични алгоритми таа подразбира такви кои се прилично прецизни, но деструктивни и тајни. На пример оние кои се користат за политичко микротаргетирање. Политичарите и оние кои ги водат кампањите, особено во САД, стануваат сè подобри во проценката на тоа кој како размислува. Почнуваат да знаат повеќе за гласачите отколку што самите гласачи знаат за себе. Освен тоа, пораките преку кои им се обраќаат стануваат се помалку информативни, а повеќе слични на пропаганда. А тоа, и покрај можната точност на пораката, сепак е деструктивен модел, затоа што ја подрива демократијата.
Политичките кампањи, како што објаснува авторката во интервју за Дојче Веле, ги става човечките суштества во маркетинг „ниши“. Тие собираат групи од по 30-40 луѓе, им ја одредуваат потенцијалната политичка групација (или согласно податоците кои им ги продаваат големите складишта на податоци, или собрани од фејсбук профилите на овие поединци) и потоа ги прашуваат за нивните подетални политички ставови. Тоа значи ова и не мора однапред да се знае - треба само отприлика да се одреди нечиј „потрошувачки профил“, исто како што тоа го прави Амазон и други продавачи онлајн. Со тоа што она што се продава во политичките кампањи не се конкретни производи, туку глас или поддршка за одреден политичар.
Притоа сосема е можно тој или таа да им кажува различни работи на различни групи гласачи, а тие никогаш (заради „меурот“ во кои се заробени) да не бидат во состојба да ги споредат понекогаш контрадикторните верзии на приказните. Ова директно го подрива концептот на информирано граѓанство, кое гласа откако детално ги проучило сите опции.
Според О’Нил излезот од ваквата ситуација делумно би било во тоа да се изврши притисок Фејсбук да определи место каде новинарите или кој и да е заинтересиран граѓанин би можел да ги види сите политички реклами кои се прикажуваат на платформата, всушност сите реклами, бидејќи некои не изгледаат, ниту пак се означени како политички. Во спротивно алгоритмите можат да станат (и веќе се) закана по концепто на „доказ“ и концептот на споделена реалност.
