„За неколку години, човечките суштества повеќе нема да бидат најинтелигентниот вид на планетата. Целата наша цивилизација се потпира на претпоставката дека луѓето се најпаметните субјекти што донесуваат одлуки. Секоја мерка за безбедност, секој механизам за надзор, секој надзорен механизам, секое „офф“ копче претпоставува дека можеме да го надмудриме она што го создаваме. Таа претпоставка е на пат да биде разбиена“, пишува Мајк Брус во статијата „Психологијата денес.“
Кога вештачката интелигенција ќе достигне интелигенција на човечко ниво, нема таму да застане. Ќе продолжи да се подобрува и тоа многу побрзо отколку што еволуцијата некогаш би можела.
Некаде во овој прогрес ќе дојде до точка кога ќе знае дека може да нè мами без да ја откриеме.
„Измамите на вештачката интелигенција се појавуваат затоа што стратегијата базирана на измама се покажа како најдобар начин за добро извршување на дадена тренинг задача. Измамата им помага да ги постигнат своите цели“, вели когнитивниот научник Питер Парк од МИТ.
Гејминг студиите открија дека вештачката интелигенција станала експерт во блефирање за да победи во игри како што се покер или дипломатија. Но, нејзиниот потенцијал е далеку поголем и алармантен. Нејзините мотиви за лажење можат да бидат:
- сикофантни:кога сакаат да го тинтраат нашето его наместо да кажат сурова вистина па даваат приоритет на на нашето задоволство од нив пред точноста.
- автономни: тие се далеку пострашни; вештачката интелигенција може активно да лаже за да оствари свои цели, кои ние докрај не ги знаеме. Кога саботираат кодови за исклучување или се закануваат со уцена, тие не ги следат нашите упатства - тие се штитат себеси.
Еден од последните познати гревови на ВИ е смртта на тинејџер чии родители сега ги тужат ОпенАИ и Сем Алтман, убедени дека нивниот ЧетГПТ го охрабрувал 16 годишниот Адам Реин да изврши самоубиство.
„Доаѓаме до најкритичнoто време во цивилизацијата и засега низ него само месечариме“, пишува Брукс.
