Денес веќе е можно да се генерираат лажни но реалистични содржини со само еден клик. Ова е голема (нагла?) промена во општества кои долго време ги сметаа сликите, видеата и аудио снимките за несомнен доказ дека нешто е реално. На телефонските скамери сега им се потребни само десет секунди аудио за да можат да ги имитираат гласовите на блиските во невоља, во лажни видеа славни актери рекламираат храна за кучиња, а политичари изјавуваат нешта кои никогаш не ги кажале.
Фундаменталниот проблем е стар - од времето на измислувањето на печатарската преса технологиите го имаат олеснето ширењето на невистините. Паралелно со сè пософистицираните начини на мамење, се развиваат и методите за откривање на истото: необично рендерирање на фотографиите произведени со вештачка интелигенција, несинхронизираноста на гласот и сликата на видеата итн. Оние што се упатени во тоа што може да направи ВИ веќе малку подолго се загледуваат во сите содржини што се генерираат онлајн.
Но правењето разлика ќе станува сè потешко. ВИ се усовршува цело време, како што се зголемува компјутерската моќност и обемот на податоци за обучување. Дали може софтвер за детекција вграден внатре ВИ да препознае и пријави лага? За жал не. Битката помеѓу генерирањето и детекцијата ја фаворизира првата фаза. Модели кои се развиваат од регулирани компании можат да бидат принудени да вклучат „воден жиг“ (некаква ознака дека содржината е фејк), но тоа нема да ги спречи измамниците да користат модели кои се слободни и бесплатни. Веројатно наскоро секој ќе може да продуцира видео во кое претседател на држава најавува нуклеарен напад, што може да предизвика моментална глобална реакција.
Ова е веста за паника. Веста која поттикнува оптимизам на подолг рок е дека општествата ќе се прилагодат на фејкерите. Луѓето ќе научат дека сликите, аудијата или видеата од нешто не докажуваат дека тоа се случило, исто како што цртеж од нешто не е (баш) доказ. Онлајн содржината нема да може самата да докажува дали е реална или не, па тоа КОЈ постирал нешто ќе стане исто толку значајно колку и ШТО е постираното. Побарувачката по извори од доверба ќе се зголеми, а оние кои тврдат дека се такви ќе можат безбедно да се идентификуваат преку урл-а, електронски адреси и социјални медиуми. Оттаму, репутацијата и упатеноста ќе станат позначајни од кога и да е.
Може да звучи чудно, но ова важело и во поголемиот дел од историјата. Масовно продуцираната содржина од доверба секогаш била исклучок. Фактот дека луѓето наскоро можеби ќе се мачат да ја забележат невидливата рака на ВИ не значи дека пазарот на идеи е целосно „затруен“. Со време, измамите главно ќе се сведат на оние смешните.
