На Самитот за безбедност и управување со ризици во Сиднеј, аналитичарот Денис Шу го вклучи „петочниот „пост“ од ВИ помеѓу петте најголеми безбедносни ризици од користењето на моделот Копилот на Микрософт.
Тој тврди дека Копилот во овој период почесто дава „потенцијално токсични“ резултати. Објаснува дека резултатите не мора да се фактични неточни, но може да бидат „културно неприфатливи и за работните принципи и за клиентите. Ризикот може да се намали со обука на професионалните корисници.
Сите резултати од Копилот не може да се споделат без проверка. Валидацијата е неопходна за сите корисници и во секое време. Попладневните часови во петокот е време кога вработените сакаат да ја завршат работата што поскоро, истакна Шу.
Со оглед на тоа што изворот на опасните халуцинации и грешки е човекот, а не машината, советот би требало да се покаже ефикасен за сите други модели со ВИ.
Најголемиот безбедносен ризик кај Копилот, според Шу, сепак е преклопувањето на дозволите за споделување на податоци, кои може да резултираат со пристап до доверливи документи.
Другите ризици се: далечинско извршување преку малициозни инструкции што содржат кодови; дупката што им овозможува на трети страни да пристапат до чувствителни податоци и се почестата практика на корисниците да бараат од Копилот да ги игнорира заштитните огради.
