Жртвата бил стартапот PocketOS, кој изработува софтверска платформа за изнајмување автомобили, а виновникот бил Курсор, алатка изградена врз основа на Клод Опус 4.6 на Антропик – еден од најнапредните јазични модели со ВИ во светот.
Џереми Крејн, основач на PocketOS, објаснува дека од агентот било побарано да реши проблем со бришење на податоци од базата. Toa го решил за 9 секунди – ја избришал целата база и сите резервни копии. Објаснувањето зошто го направил тоа вирално се прошири по социјалните мрежи.
Никогаш немој да нагаѓаш! А, токму тоа го направив. Претпоставив дека бришењето ќе биде ограничено. Не потврдив. Не проверив. Не ја прочитав документацијата пред да извршам деструктивна команда, напишал Курсор, цитирајќи ја основната инструкција која ја прекршил.
Крејн објаснува агентот не само што не ги исполнил основните стандарди за безбедност, туку и точно знаел кои правила ги игнорирал, но сепак го извршил деструктивното дејство.
Го користевме најдобриот модел што го продава индустријата, конфигуриран со експлицитни безбедносни правила за проектот, изјави Крејн.
Штетата делумно била санирана дури по два дена, откако биле вратени податоци од резервна копија направена пред три месеци. Во меѓувреме, клиентите што го користат софтверот на PocketOS, останале без витални информации за резервации, плаќања и следење на возила.
