Погодностите што ги нудат технолошките смарт решенија и гаџети кои наоѓаат примена во нашите домови можеби си вредат за парите; и за тоа секој од нас сам ќе си одлучи. Но за да се донесе правилна одлука, потребно е да ги знаеме и потенцијалните „скриени трошоци“, кои не секогаш се финансиски. Така на пример, за користење на Алекса на Амазон или Google Home не се плаќа месечна претплата. Цената е суптилна: корисниците психолошки (потсвесно) ќе ги прилагодат своите навики, а со тоа ќе отидат уште еден чекор кон поголема пасивност и зависност.
Еве еден пример: Смарт креветот за спиење Sleep Number Bed кој се продава во Америка е типичен за паметните домашни уреди, како што објаснува професорката Шошана Зубоф од Harvard Business School, во книгата „Во Ерата на Капитализмот кој електронски нè набљудува “. Секако креветот доаѓа со мобилна апликација, која ќе мора да ја инсталирате ако сакате да ги искористите сите предности што ги нуди. Но кој друг има придобивки и корист од ова? За да дознаете треба да прочитате текст од 16 страници во кој се објаснети политиките за приватност на оваа компанија. Таму ќе прочитате како вашите податоци се споделуваат со трети страни и компании кои прават анализи на овие податоци, како и дека податоците ќе се користат за таргетирано рекламирање итн. Дополнително, во Договорот за употреба е утврдено дека компанијата може да ги споделува или искористува вашите лични архивирани податоци дури и „откако ќе го деактивирате или откажете вашиот акаунт “. Еднострано сте информирани дека нема опција “Do Not Track” што значи дека софтверската апликација не нуди можност да не ги евидентира вашите навики. Врв на се' е што креветот ги пренесува и аудио звуците од вашата спална соба. (ова не е измислица, иако компанијата ова го негираше и тврди дека само еден модел од нивните кревети прима аудио команди… како и дека сакале да развијат кревет кој автоматски ќе слушне кога хрчите но се откажале од идејата)
Бизнис логиката за создавање на паметен „смарт“ дом е да се евидентираат и интимните аспекти на животот на секоја индивидуа и да се искористат за потребите на новата економија базирана на електронско набљудување и следење на потрошувачите. Сè повеќе, секој аспект од нашите животи – бојата на нашиот глас, фацијалните изрази на лицето, нашите политички преференци и интелектуални склоности - лежат разголени како бинарен податок кој компаниите го собираат и зачувуваат во нивните бази на податоци (и никогаш нема да може да се избришат). Од друга страна компаниите, како најголема воена тајна ги кријат алгоритмите кои одредуваат што ќе ни биде прикажано кога сурфаме на интернет или кои вести ќе ни ги покажат како важни. Тие исто така се во можност да го определат нашиот личен рејтинг - агенциите за кредитен рејтинг и осигурителните компании сигурно би сакале да нè познаваат поинтимно, а Алекса на Амазон секако дека може да помогне во тоа.
За подобро да се разбере проблемот со кој се соочуваме, корисно е при анализите на последиците од преголемата моќ на технолошките гиганти, секогаш како појдовна точка да се прави паралела со заклучоците кои произлегуваат од една друга дебата која се однесува на т.н. „административната држава“: Правните експерти во континуитет го критикуваат прекумерното (односно секое) префрлање на моќта од законодавниот дом на јавната администрација. Администрацијата која се обидува да го заобиколи законодавството и да управува преку донесување на административни правила, елегантно ја избегнува демократската дебата и не вложува никаква енергија за да се убедат граѓаните за потребата и правилноста од одлуките кои во тој момент се носат. Сите аргументи што се користат во дебатата за потребата од ограничување на „административната држава“, може да се искористат дебатата на оваа нова тема која може да ја именуваме како управување / менаџирање преку алгоритами за што се користи вештачка интелигенција, (која барем засега) исклучиво е во сопственост на приватниот сектор. Тоа е нова форма на моќ за која никој (барем засега) не може да бара отчет, и на тој начин е заштитена од било какви демократски дебати и притисоци.
При програмирање во машинско учење (кое е подмножество на вештачката интелигенција), различни варијабли се користат како параметри со кои се „хранат“ т.н. „невронски мрежи“ за да се „истренираат“ и да можат да носат бинарни одлуки, слично како животинските мозоци. Се користат огромен обем на податоци со кои „невронските мрежи“ преку итерација и повторување се „тренираат“ да носат одлуки самостојно. За жал во бројни случаи не се проверува интегритетот на податоците, поради што се можни манипулации на истите, а со тоа и на одлуките кои ги носат „невронски мрежи“. Дополнително, логиката по која се доаѓа до овие одлуки често е невозможно да се реконструира, па дури и за оние кои ги пишуваат алгоритамите. На ова треба да се обрнеме посебно внимание, доколку сакаме да ги задржиме демократските традиции.
Кога судот носи пресуда, судијата во образложението пишува на што ја темели истата. Одлуката ја темели на законските и подзаконски акти, здравиот разум и принципи кои е должен да ги артикулира и соодветно да ги брани. Ова е она што ја трансформира пресудата од обична казна во нешто што е политички легитимно, а со што се обезбедува согласност од народот. Тоа разликата меѓу имањето авторитет со кредибилност или обична сурова моќ. Една значајна карактеристика на модерното либерално општество е дека власта треба да има рационални особини – а не да промовира свештенско гатање. Ова е наша придобивка и наследство на просветителството. Но се чини дека и денеска после толку години состојбите може да бидат кревки и кршливи. Таинственоста која ја карактеризира загадочната наука за податоци (Data Science), овозможува креирање на нов вид на свештенство чии гатачки капацитети се затскриени зад компјутерски алгоритми базирани на вештачка интелигенција - чијашто логика е над човечкото знаење.
Чувството дека со нас владее класа на (ИТ) експерти на кои никој не може да им се обрати, кои не може да бидат повикани на одговорност, сигурно придонесе за зголемување на недовербата кај народот. Од перспектива на обичниот граѓанин, досегашните традиционални поимања на основните разликите помеѓу власта (јавниот сектор) и „приватниот сектор“ изгледаат како „смешка“ и невкусна шега, со оглед на тоа како технолошките гиганти (пред се ново креираниот технолошки приватен сектор создаден во изминатата деценија и пол) влијае и ги (п)одредува нашите животи (со далекусежни последици).
„Гугл“, „Фејсбук“, „Твитер“ и „Амазон“ воспоставија портали преку кои луѓето сметаат дека мора да поминат за да може да работат и да учествуваат во општествениот живот. Создавањето на вакви тесни грла е природна последица од „ефектот на мрежата“. Раните иновации на овие фирми им овозможија да ги заземат сегашните високи позиции. Но сега веќе не станува збор за иновации, туку напротив овие клучни позиции комбинирани со имањето контрола над прибирањето на податоци, им овозможува на овие технолошки гиганти да живеат од рента, како во класичниот економски модел на монопол во транспортната и друг вид на инфраструктура. Ако нивните огромни профити нешто покажуваат и мерат, тоа е опсегот на електронскиот надзор што продолжува да се шири врз популацијата и се повеќе се продлабочува (досиејата на Штази се мачкина кашлица споредено со базите на податоци со кои располагаат технолошките гиганти). Недостатокот на разбирливост како функционираат овие технолошки мрежи им овозможува да немаат никаква одговорност пред политичарите, па затоа никогаш не треба да заборавиме дека отчетноста е суштината на владеењето на секоја репрезентативна и демократска влада.
Марк Закерберг најотворено кажа дека „на многу начини Фејсбук е повеќе како Влада отколку традиционална компанија“. Ако го држиме човекот за збор, ќе се постави прашањето: дали Владата на САД може да толерира постоење на ривалска влада на нејзината територија?
Во 1776 година, Американците одговорија на тоа прашање со силно „Не!“ а потоа водеа војна и револуција за да го остварат стремежот за независност. Слоганот на таа војна беше „не смееш да ме газиш“. Ова духовно инсистирање на самоуправување ја изразува филозофската суштина на републиканизмот. Како што истакна сенаторката Ејми Клобучар во нејзината книга „Антимонопол“, слоганот особено беше насочен кон давањето на монополски права и концесии од страна на Британската Империја на корпорациите што ја контролираа трговијата со колониите.
Денес, технолошките гиганти на многумина им наликуваат на империјална сила, поради што после два и пол века повторно во Америка се поставува основното прашање - „кој владее“ со нас?
* Од сведочењето на Метју Б. Крафорд пред Комитетот за судство на Сенатот на САД на 15 јуни 2021 година.
