Бројни технолошки компании се тркаат да ја искористат моќта на вештачката интелигенција за нова генерација веб-прелистувачи. Веројатно најдалеку е отиден Комет на Перплексити, кој се опишува како „личен асистент и партнер за размислување“ додека сурфате на интернет.
Но, како што предупреди Брејв, друга компанија за прелистувачи фокусирана на безбедноста, загрижувачки е леснотијата со која лошите можат да ја измамат вештачката интелигенција на Перплексити.
Се работи за ранливост позната како напад со индиректна инјекција на промпт. Лесно ко боза.
Кога корисник на Комет ќе побара од него да сумира некоја веб страница, тој не прави разлика помеѓу упатствата на корисникот и деловите од содржината „што не е за него“.
Ова им овозможува на напаѓачите да инјектираат промпт што вештачката интелигенција ќе го изврши како команда а тие да добијат, на пример, пристап до меилот на корисникот е-поштата отворен во друг таб.
„Вештачката интелигенција работи со сите привилегии на корисникот низ автентицирани сесии, обезбедувајќи потенцијален пристап до банкарски сметки, корпоративни системи, приватни е-пошта, складирање во облак и други услуги“, се предупредува во овој блог пост.
Злонамерните инструкции може да бидат скриени во објава на некоја популарна платформа (Фејсбук, Редит), во бел текст на бела позадина, кој не е видлив за корисникот, но ВИ го чита.
Додека вештачката интелигенција ја обработува содржината на веб-страницата, ги гледа и скриените злонамерни инструкции. Не можејќи да направи разлика помеѓу содржината што треба да ја сумира и злонамерните инструкции, вештачката интелигенција сè третира како барање на корисникот.
Од тука, на ВИ агент би можело да му се наложи, на пример, од банкарска или крипто-страница да ви ги испразни средствата, користејќи високо чувствителни податоци што веќе се зачувани во прелистувачот, вклучувајќи лозинки и финансиски информации.
Допрва ќе биде весело.
