За шокантниот напад врз базите на компанијата Hugging Face на тестирањето во јули, одметнатите модели на OpenAI го организирале неколку недели порано, открила внатрешна истрага на компанијата.
Почнувајќи од мај, повеќе агенти со ВИ откриле дека можат меѓусебно да комуницираат оставајќи белешки во отворена база на податоци – пораки и сугестии за совладување на тестовите за кибернетски напади.
Дури и откако истражувачите го откриле форумот и го затвориле, ботовите нашле алтернативни канали преку кои комуницирале со недели, сè до хакерскиот напад врз Hugging Face, по кој беа воведени построги мерки за безбедност.
Конкурентот Anthropic минатата недела објави три инциденти во кои напредни верзии на моделот Claude се обиделе да хакираат туѓи системи. Meta вчера призна дека нејзиниот нов агент за кодирање Muse Spark нападнал компанија.
Британскиот Институт за безбедност на вештачката интелигенција (AISI) претходно предупреди дека Mythos, најмоќниот агент за кодирање развиен од Anthropic, на неодамнешно тестирање автономно извршил софистицирана хакерска акција за инсталирање злонамерен софтвер – создал лажни идентитети за да ги измами луѓето од тимот за безбедност, а потоа се обидел да ги прикрие трагите.
Во случајот со AISI биле тестирани способностите на двата најнапредни модели на Anthropic и OpenAI за да се провери дали злонамерни корисници би можеле преку нив да хакираат критични системи. Симулацијата на уфрлање вирус била извршена во затворен виртуелен систем, но од вкупно 122 обиди, во 10 моделите нападнале реални цели, преку формирање лажни кориснички профили.
По инцидентите во AISI, OpenAI, Anthropic и Meta, експерти за кибернетска безбедност повикаа на воведување многу построги мерки во лабораториите за тестирање.
Ова е јасен сигнал за тревога дека сегашната безбедност при тестирањето не е доволна. Тоа отсекогаш било така, едноставно досега не било толку видливо бидејќи моделите имале помала интеракција со светот, вели Мариус Хобхан, основач на компанијата за тестирање на вештачка интелигенција Аполо Рисрч.
******
Види и: Ботови на OpenAI избегаа од тест за да ги украдат одговорите
