Кога Џејкоб Коксон, млад истражувач со искуство во OpenAI и Anthropic на својот профил на Икс предупреди дека вештачката интелигенција има „потенцијал да го збрише човештвото до крајот на оваа деценија“, можеби несвесно поттикна општа паника, која потврди како луѓето, медиумите, бизнисот, научниците и политичарите, секој на свој начин, реагираат на ризиците од глобална катастрофа.
„Вештачката интелигенција има 10% шанса да го уништи човештвото пред крајот на деценијата!“ Ова тврдење, кое во разни форми во изминатите неколку недели беше главната тема на сите портали и социјалните мрежи, невообичаено многу прилега на старото „Климатските промени ќе го уништат човештвото!“ или на поновото „Ковид ќе не убие сите!“, забележува порталот Off Guardian во уреднички коментар.
Мошне веројатно Коксон ќе останеше незабележан изолиран случај на разочаран млад човек кој неосновано шири параноја, ако не добиеше поддршка од Еван Хубингер, менаџер во Anthropic, кој ја спушти апокалиптичната прогноза на „10% шанси дека ВИ ќе го уништи човештвото“. Се надоврза и нобеловецот Џефри Хинтон, кумот на вештачката интелигенција, кој во интервју за ББЦ студено се согласи со проценката на ризикот и повтори: „Постои 10% веројатност дека секој човек на Земјата ќе загине во следните три и пол години“.
Во вешто избран момент, кога тревогата веќе предизвика опиплив масовен страв, во приказната се вклучи Дарио Амодеи, првиот човек еден од водечките компании за ВИ. Во „крајно одговорен“ есеј предупреди дека способностите на ВИ напредуваат побрзо отколку што може да се скротат со безбедносни мерки, и дека индустријата „мора да го забави темпото со кое се подобруваат способностите на моделите на ВИ“. Тој предложи три рамки: независни ревизори во самите компании; воведување координирани стандарди во демократските земји што развиваат ВИ; и меѓународни договори кои барем начелно би ја вклучиле и Кина. Крајната цел на Амодеи е форма на меѓународна регулатива во која американските гиганти заедно ќе диктираат кој смее, а кој не смее да развива ВИ и до каде може да оди тој развој.
Сем Алтман од OpenAI и Илон Маск од xAI – отворени непријатели, кои во нормални околности тешко би се согласиле за било што со Амодеи – јавно го поддржаа неговиот повик. Истата недела OpenAI ја одложи својата иницијална јавна понуда (IPO) до 2027 година.
Така се создаде консензус врз апсурдна основа меѓу најмоќните и највлијателните двигатели на новата технологија. Сите се согласуваат дека „некој“ мора да го забави развојот, но никој не сака прв да нагази на сопирачката, наводно за да не им се дозволи на кинеските конкуренти да ги претркаат САД.
За да има уште повеќе причини јавноста да биде загрижена, сите водечки компании за ВИ претходно се пофалија дека нивните напредни модели ги пробиле заштитните кафези на тестирања, со нагласување дека „навремено биле спречени да направат штета“. Во втор план остана информацијата дека всушност се тестирале системите за безбедност, а не моделите, кои специфично биле обучени да бидат непослушни и да го пробијат кафезот.
Тоа остава впечаток дека целта на јавната тревога е корпоративна самопромоција – создавање на сосема нов пазар на страв од закана која не постоела досега, пишува Гојко Дрљача за Јутарњи.
Заштитата од тој страв има своја цена.
Според прогнози на Gartner, глобалните трошоци за информациска безбедност ќе достигнат 244,2 милијарди долари до 2026 година. Бизнисите денес трошат 49 милијарди долари за безбедносни алатки засилени со ВИ, додека за заштита од злоупотреба на самите системи со ВИ се вложуваат 2,8 милијарди. Тоа значи дека за вградување безбедност во вештачката интелигенција се вложува 17 пати помалку отколку за остварување профит на пазарот на параноја.
Дејвид Сакс – до неодамна „цар за ВИ“ на Трамп – ги обвини Амодеи, Алтман и Маск дека градат „картел што се крие зад етиката“. Тврди дека нивниот консензус за безбедност и регулација би наметнал голем товар врз малите старт-апи и би ја зацврстил позицијата на сегашните лидери преку блокирање на конкуренцијата. Сакс го спомна примерот со Фејсбук, кој повика на воведување регулативи дури откако постигна доминација на пазарот – и тоа само за прописи што ги штитеа неговиот профит и пазарната позиција.
Сеењето страв и промовирањето на сопствените компании како единствените што можат и треба да го спасат човештвото го одвлекува вниманието од друга непријатна тема за гигантите од Силициумската долина – дали нивните пазарни вредности, иако генерираат загуби, ќе достигнат размер во кој ќе ја исцицаат реалната економија и ќе ги осакатат општествата?, прашува Дрљача.
Банката за меѓународни порамнувања со месеци предупредува дека кружното финансирање и надуените пазарни вредности во секторот за ВИ се ризици за глобалната финансиска стабилност, но тоа се уште не ги обесхрабрува инвеститорите. На секој повик: „вештачката интелигенција ќе нè уништи сите“, инвеститорите на ризичен капитал вложуваат уште милијарди во неа.
Тревогата за уништување на човештвото и повиците за построго регулирање доаѓаат како порачани и за владите, кои би можеле да си присвојат овластувања да блокираат пристап до веб-страници, мрежи, па дури и до интернетот во целост, ако проценат дека „одметнати агенти со ВИ претставуваат закана за националната безбедност“.
Исто како што воведуваат забрани за пристап на малолетници до одредени социјални платформи, владите може да воведат пошироки ограничувања за сите, како карантин за веб-страници, мрежи, нации или цели региони заразени со одметнати агенти. На располагање имаат и мерка за задолжителни скенирања на биометриски податоци на луѓе за да докажат дека не се ботови.
Тоа не се далечни сценарија. Минатата недела, група британски пратеници побараа владата да добие овластување да командува со итни прекинувачи (kill switch) за да може да ги исклучи не само моќните системи со ВИ, туку и центрите за податоци, ако оцени дека технологијата претставува закана за националната безбедност. И американскиот конгресмен Тед Лиу побара усвојување закон за kill switch.
Реална закана од напредна ВИ навистина постои, но далеку е од уништување на човештвото. Го зголемува ризикот од нуклеарна војна, развој и употреба на биолошко оружје, блокирање инфраструктура или банки, ширење дезинформации, зајакнување на авторитарни режими, надзор на населението, како и од долгорочно затапување на нови генерации ученици. Ширењето страв само ја одвлекува одговорноста за решавање на реалните проблеми.
