Најнапредните детектори за откривање манипулативни видео-содржини на интернет се потешко го следат развојот на дипфејк технологиите за генерирање снимки што се чинат реални.
Тие се проектирани да бараат и да анализираат ситници невидливи за човековото око, како неприродна механика на трепкање. Сега веќе не можат да препознаат дали снимката е реална ни со откривање на пулсот на прикажаниот лик.
Истражувачи од Универзитетот Хумболт во Берлин објавија лажни видеа од луѓе со реални ситни знаци на пулс. Детекторите на дипфејк неправилно ги класифицирале овие манипулирани видеа како вистински.
Првпат покажуваме дека новите висококвалитетни длабоко лажни видеа можат да прикажуваат реалистични отчукувања на срцето и моментални промени во бојата на лицето, што го отежнува нивното откривање, изјави авторот на студијата, професорот Петер Ајсерт.
Од доброволци било побарано пред камера да зборуваат, да читаат или различни интеракции со специфични изрази на лицето. Снимка од само 10 секунди била доволна моделот точно да ги идентификува отчукувањата на срцето. Алгоритмот, без тоа специфично да се бара од него, самиот ги препознал сигналите за пулсот. Слично било и со топлински мапи од преносот на светлината преку кожата и крвните садови.
Некои комерцијални детектори се потпираат на грануларни метрики - како варијации во осветленоста на пикселите - што немаат врска со физиолошки карактеристики. Адоб и Гугл развиваат системи за дигитални водени жигови за да се следи дали содржината е манипулирана.
Дипфејк технологијата брзо стана озлогласена откако поттикна бран слики со сексуална содржина по социјалните мрежи. Независен истражувач во 2023 година изјави за Wired дека за само седум дена на 35 специјализирани сајтови за дипфејк порно биле објавени 244.625 манипулирани снимки. Опцијата „соголи“ достапна како апликација за смартфони овозможува со едно притискање на копче да се монтира било кој лик во сексуално експлицитни слики. Дипфејк се користи и за финансиски измами, за уцени и за оцрнување на политичари и естрадни ѕвезди.
