Истражувачи од Универзитетот во Цирих, како дел од свое истражување, објавиле над 1.000 коментари на платфoрмата Редит за теми како агресијата кај питбулите, станбената криза и теории на заговор за 11 септември, сето тоа под лажни идентитети (некои претставувајќи се како советници за траума или жртви на сексуално насилство).
Коментарите всушност биле генерирани од вештачка интелигенција, иако внимателно персонализирани според возраста, полот и политичките ставови на корисниците. Ваквите „штелувања“ биле направени преку анализа на ваквите демографски групи токму на Редит. Резултатите покажале дека ваквите ВИ-коментари добивале повисоки оценки од човечки, што укажува на силна убедувачка моќ.
Кога експериментот завршил, истражувачите се јавиле кај модераторите на сабредитот r/ChangeMyView за да го „разоткријат“ истражувањето и да побараат дозвола да го објават. Овие пак, шокирани од обемот на измамата, побарале извинување и повлекување на студијата. Истражувачите одбиле, па заедницата јавно ги обвини за неетичко однесување, нарекувајќи го експериментот „навредлив“, „вознемирувачки“ и „неетички“.
Овој потег не беше осуден само од Редит-корисниците – oстро реагираа и други кои ги спроведуваат своите истражувања онлајн. Експертите за интернет етика го нарекоа ова едно од најсериозните прекршувања на етичките норми во дигитални истражувања. Се повлекуваат паралели со озлогласеното истражување на Фејсбук од 2012 година, кога компанијата тајно манипулирала со емотивната содржина што ја гледаат корисниците, но многумина велат дека овој случај е уште посериозен, токму затоа што вклучува доверлива заедница и маскирана ВИ.
Иако Универзитетот во Цирих тврди дека ризиците биле „минимални“ и дека проектот дава важни сознанија, тој сепак најави построги проверки во иднина. Истражувачите, пак, инсистираат дека измамата била неопходна за реална симулација на тоа како ВИ може да се користи во „неетички“ цели онлајн.
Овој инцидент отвори прашања не само за границите на научната етика, туку и за тоа колку навистина сме подложни на влијанието на машините – особено кога тие звучат разумно, убедливо и човечки. Ако не можеме да ги препознаеме, дали тие веќе се дел од нашите заедници?
