Wired: Вашата книга се појавува во време кога многумина кои некогаш имаа позитивни чувства кон технологијата сега почнуваат да се сомневаат во неа. Дали вие ја браните?
Го сакам насловот (WTF), затоа што тој може да биде истовремено израз на чудење и восхит, и на чудење и вознемиреност. Технологијата ни ги предизвикува обете. Овозможува зголемена продуктивност и сите не има направено побогати. Не мислам дека би сакал часовникот да се врати назад.
Не дека па и може да се врати.
Не, но за нас е важно да сфатиме дека технологијата не е поврзана само со ефикасност. Се работи за правење нешто повеќе со овие нови можности кои ги имаме. Кога го правиш тоа, тогаш всушност ја зголемуваш вработеноста. Кога луѓето престанаа да се занимаваат со земјоделие, не завршивме со огромна легачка класа додека два процента ги хранеа животните со слама. Ефектот беше создавање нови видови вработувања, и ние ја искористивме таа продуктивност за да го зголемиме квалитетот и квантитетот на храната.
Зошто би било различно во оваа ера? Убер и Лифт ни покажаа дека она за што мислевме дека е чисто дигитална област, или област на медиумите, почнува да навлегува во реалниот свет. Тоа е прв сигнал за будење на општеството. Второ, сведоци сме на нов вид интеракција помеѓу луѓето и алгоритмите. Трето, тие претставуваат нов вид пазар базиран на платформи. Овој пазар функционира бидејќи луѓето се здобиваат со нови когнитивни супермоќи. На пример, поради Џи-пи-ес или апликациите за мапирање, на возачите на Убер и Лифт не им треба обемна обука.
Се согласувам. Но кога ќе се крене завесата гледаме дека таквите супермоќи имаат последици: алгоритмите во себе имаат вградено пристрасност.
Тоа е апсолутно точно. Но јас сум оптимист бидејќи водиме дискусија за пристрасните алгоритми. И порано го имавме тоа но не можевме да го видиме. Не можеме да видиме, на пример, дека алгоритмите кои управуваат со работниците во Мекдоналдс или Геп се оптимизирани така да не им овозможуваат целосно работно време, за да не им се плаќаат придонеси. Сето тоа беше невидливо. Дури откако навистина почнавме да обрнуваме внимание на овие алгоритми луѓето почнаа да се однесуваат критички кон нив.
Во WTF зборувате за специфичен алгоритам излезен од контрола: капиталистичкиот импулс за максимизирање на профит без оглед на последиците по општеството. Начинот на кој го опишувате ова ме потсетува на сценариото на Ник Бостром за машина со вештачка интелигенција посветена на правење спојувалки - бидејќи тоа е нејзината единствена мисија, на крајот таа ги јаде сите материјали на светот па дури и ги убива оние кои се обидуваат да ја исклучат. Корпорациите чие единствено оправдувње е вредноста на акциите изгледа дека работат според сличен деструктивен алгоритам.
Да, финансиските пазари се првиот никаквец произлезен од вештачка интелигенција.
Како да се управува со ваквиот тип на вештачка интелигенција?
Се обидувам да покажам порани примери на тоа како луѓето се обидувале да ги менаџираат нивните алгоритми, преку анализа на тоа како Гугл го има подобрено квалитетот на пребарување. Гугл имаше некои прилично лоши „закрпи“ каде спамерите навистина имаа предност, ама го средија проблемот.
Истото може да се искористи за да се среди злобната капиталистичка AI?
Некои ја имаат „засадено“ идејата дека вредноста на акциите е вистинскиот алгоритам, вистинското нешто според кое треба да биде оптимизирано сето останато. Но ова не е начинот на кој реагираа компаниите во минатото. Можеме да засадиме нова идеја. Токму за тоа ни е потребен политички процес.
Кога веќе зборуваме за политика, изгледа дека еден друг „пребегнат“ алгоритам нè има доведено до влада контролирана од луѓе кои не ги претставуваат гледиштата на мнозинството.
Го набљудувам тоа преку широк лак на историјата. Го гледате долгиот бавен пад на Римската империја и наоѓате толку многу аналогии - вртењето грб на писменоста и на науката, предавањето на суштинските функции на државата во раце на платеници. Можеби ќе минеме низ вистинско срање пред да свртиме во обратен правец. Можеби и воопшто нема да свртиме. Но црпам надеж од нешто кое Тим Урбан го нарекува „човечки колос“ во неговата „Чекај, но зошто“. Тој има одличен опис на тоа како Илон Маск го движи овој човечки колос во нова насока - за да покаже дека е можно да се патува во вселената, дека е можно да се направи интерфејс мозок-машина - и дека сите ќе го следат. Човечкиот колос кој најмногу ми грее срце е оној од по Втората светска војна. Научивме лекција од неверојатните пресврти по Првата светска војна, во која имаше масовна дислокација, додека ги казнувавме губитниците од војната. Па по Втората светска војна тие повторно ја изградија Европа, и инвестираа во ветераните-повратници со американскиот закон наречен G.I. Bill, кој oбезбедувал социјална сигурност за воените ветерани.
Но како што учиме од технологијата, на алгоритмите им е потребно постојано унапредување. Не е работата само да ги пуштиш во погон и потоа да ги оставиш така засекогаш. Стратегиите воспоставени по Втората светска војна кои функционирале цели 30 години сега веќе не функционираат толку добро, па создадовме нешто друго (што пак создаде нееднаквост во примањата). Постои чувство дека работите кои тргнуваат на лошо ќе водат до нови стратегии. А сега кога Трамп го скрши „прозорецот на Овертон“...
Што е тоа?
Тоа е идеја (именувана според некогашниот тинк-тенк лидер Џозеф Овертон) дека постои збир на нешта кои се сметаат за прифатливи во политичката дебата, и дека едноставно не може да се излезе од тој прозорец. А Трамп го направи токму тоа - сè што не можеше да се замисли. Иако сите предвидувања пропаднаа, тоа сепак не значи дека се враќаме на старите, снеможени решенија. Мислам дека е можно да го поднесеме сето ова лудило, и дека од ова ќе излеземе со свест дека навистина треба да инвестираме во луѓе, дека навистина треба да изградиме подобра економија за сите.
Во Кина тие веќе го прават тоа. Кина има препознаено дека нејзината огромна популација е потенцијално буре барут, и дека мора да се погрижи за своите луѓе. Ова ние го немаме направено. Само ги потиснуваме обичните луѓе. Кина е истовремено поагресивна од која и да е друга земја во одговорот на предизвиците врзани со климатските промени. Така што има две опции - или ќе се разбудиме и ќе почнеме да се однесуваме на истиот начин, или Кина ќе биде светски лидер.
Читајќи ја вашата книга мислам дека знам кого го посакувате за наш иден претседател: Џеф Безос. Книгата е полна со љубов кон него.
Џеф и Илон се веројатно двајцата бизнисмени на кои најмногу им се восхитувам. Можете да ја сметате книгата како апологија на Џеф. Како издавач, најпрвин ја „купив“ вообичаената приказна, дека Амазон ќе оди по патот на Вол-март - дека колку што станува подоминантен, толку повеќе ќе прави вредност за себе, репресирајги ги своите снабдувачи.
Нема збор дека Џеф е безмилосен натпреварувач, но сепак Амазон се има потрудено да направи повеќе од ова. Не сум сигурен дека Џеф би бил добар претседател, но би можел да биде тоа.
Вие би гласале за него, нели?
Ќе зависи против кого се кандидира, но да, веројатно би гласал.
Во книгата го фалите и Убер. Дали мислите дека е можно да се направи разлика помеѓу вредноста на неговите услуги и етиката на компанијата?
Убер е добра метафора за она што е добро и што е погрешно во технологијата. Ја имаме сета таа восхитувачка нова технологија, која трансформира една индустрија и вработува повеќе луѓе отколку што работеле во истата индустрија порано, создавајќи голем потрошувачки вишок, па сепак експлоатира возачи.
Интересно е што Лифт, кој е покооперативен и подобар за возачите, полека почнува да добива дел од колачот. Тоа покажува дека постои компетитивна предност ако го правиш нештото како што треба, и дека сепак има граница до која можеш да стигнеш како шупак.
Да привршиме разговарајќи за вештачката интелигенција. Изгледа дека сте цврсто убеден дека таа ќе се случи наскоро.
AI секако нема да одземе работни места. Неодамна видов одличен слајд од Џоана Брајсон, професор на Универзитетот Бат. Се однесуваше на човечката предисторија, со текст кој вели: „12 илјади години вештачка интелигенција“, затоа што сè во технологијата е вештачка интелигенција. Она што денес го нарекуваме така е само следната фаза на вткајување на нашата интелигенција во една поголема целина. Ако мислите за интернетот како за вмрежување на сите нас, како за средство за пренесување идеи, во некоја смисла AI може да биде еквивалент на едно мулти-целуларно суштество а ние сме неговиот микробиом, спротивно на идејата дека тој би можел да биде некој џин или Франкештајн. Ако е тоа така, тогаш системите кои ги градиме денес, како Гугл и Фејсбук и финансиските пазари се всушност позначајни отколку лажната етика на грижа за некоја вештачка интелигенција во далечна иднина. Се плашиме од нова технологија и ја демонизираме, но според мене треба да ја искористиме оваа можност за интроспекција. На крај треба да се плашиме од самите себе и од другите луѓе.
