Системи за фацијално препознавање може да се хакнат

Системите за препознавање лица се повеќе се користат како начин за идентификување луѓе на аеродроми и во други безбедносни ситуации. Но, истражувачи покажаа како може да се прелаже системот да препознае лице кое всушност не е тука.

Екипа на компанијата за сајбер-безбедност МекАфи успеа да изведе успешна измама на систем сличен на оној кој се корист на аеродромите за верификација на пасоши. Со помош на машинско учење, создале слика која на човечко око му личи на еден човек, но системот го препознава како друг.. Преведено во реалност, тоа значи дека на авион може да се качи некој познат колега на оние кои ги срушија њујоршките кули близначки.

За да го излажат алгоритмот, тие го користеле популарниот CycleGAN кој може да менува стилови на фотографии, на пример фотографија од пристаниште да изгледа како слика на Моне, или пак летен пејсаж да стане зимски.  Потоа земале 1.500 фотографии од двајца членови на екипата и пуштале CycleGAN да ги морфа, истовремено проверувајќи на алгоритам за препознавање ликови кого ќе препознае. После генерирани стотици фотографии, дошле до фотографија која е лицето А но за која системот за препознавање тврди дека е лицето Б.

Луѓето од МекАфи велат дека поентата на нивниот експеримент е да покажат дека и натаму треба да постои човечки фактор во системот за кој во услови на пандемијата сè повеќе се бара да биде бесконтактен.

Претходно, од Универзитетот во Чикаго пуштија програм кој малку ќе цимне ваша фотографија за системот за фацијално препознавање на социјалните мрежи да не ја препознае како ваше селфи.

********
Не џабе Галичанецот верувал само во она што ќе го види со свои очи (за кога ќе оди на војска, на помош да ја повика својата рака)

 

6 август 2020 - 15:12