Во „Изјавата за суперинтелигенција“ тие не бараат да се забрани вештачката интелигенција, туку да се запре нејзиниот понатамошен развој без претходно да се постигне широк научен консензус за насоката, регулирањето и ограничувањата.
Иницијативата ја покрена Институтот за иднината на животот (FLI), основан од професорот Макс Тегмарк од Универзитетот МИТ. Тој истакна дека неодамнешни истражувања покажале дека само 5% од Американците прифаќаат нерегулиран развој на напредни алатки за ВИ, додека 73% се за строги ограничувања. Две третини од луѓето опфатени со анкетата рекле дека не смее да се дозволи машините да бидат поинтелигентни од луѓето, сè додека не може да се гарантира дека таа нема да го загрози човештвото.
Меѓу потписниците се нобеловецот Џефри Хинтон и добитникот на Тјуринговата награда Јошуа Бенџо – генијалци со огромен придонес за првите чекори на вештачката интелигенција и затоа се наречени нејзини „кумови“. Потпишани се и коосновачот на Епл - Стив Вознијак, основачот на Вирџин - Ричард Бренсон, десничарските политички коментатори Стив Бенон и и Глен Бек, левичарски ориентирани естрадни ѕвезди како Џозеф Гордон-Левит, принцот Хари и војвотката Меган, пензионираниот адмирал Мајк Мален, отецот Паоло Бенанти, кој му е советник за ВИ на папата.
По само неколку години напредните системи за ВИ веќе би можеле да го надминат просечниот човечки ум во решавање на повеќето когнитивни задачи. За да напредуваме безбедно кон суперинтелигенција, мора научно да утврдиме како да дизајнираме системи што би биле фундаментално неспособни да им наштетат на луѓето, без разлика дали преку несоодветно усогласување или злонамерна употреба, забележува Бенџо.
Многу поинтересно е кој не го потпишал писмото: Директорот на Опен АИ - Сем Алтман, основачот на xAI - Илон Маск, коосновачот на DeepMind и директор на Microsoft AI - Мустафа Сулејман, директорот на Антропик - Дарио Амодеи и „крипто-царот“ на Белата куќа - Дејвид Сакс. Маск и Алтман претходно потпишаа иницијатива за „подигање на свеста за ризиците од ВИ“, но во меѓувреме се натпреваруваат кој ќе создаде понапреден модел и чија алатка ќе привлече повеќе корисници.
Јавноста треба да има право да каже како треба да изгледа технолошката иднина на човештвото. Развојот не смее да се прави во темни комори во Силиконската долина, како на Дивиот Запад, без регулаторен надзор и одговорност. Луѓето сакаат моќни алатки со ВИ за наука, медицина, продуктивност и други придобивки. Корпорациите се тркаат за вештачка интелигенција попаметна од човекот, дизајнирана да ги замени луѓето, иако луѓето тоа не го сакаат, научниците сметаат дека не е безбедно, а религиозните водачи сметаат дека не е исправно, вели ко-основачот на FLI, Ентони Агире.
