Џејкоб Коксон, истражувач за обука на нови модели на ВИ, објави дека ја напушта компанијата Anthropic затоа што не сака да учествува во напорите за изградба на системи на вештачка интелигенција што можат да се подобрат себеси. Загрижен е дека таквите системи би можеле да излезат од контрола и да го уништат човештвото.
Луѓето што ја градат ВИ искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата. Ова не е маркетиншки трик. Многумина директори и виши истражувачи ќе ги искажат своите фрази во печатот за да звучат разумно. Но, ги слушам истите луѓе како изразуваат страв приватно. Ниту една друга човечка активност не претставува вакво ниво на опасност, предупреди Коксон.
Тој пред само четири месеци ја напуштил OpenAI и преминал во Anthropic, убеден дека компанијата на Дарио Амодеи има поодговорен пристап во развојот на моделите со ВИ. Се разочарал.
Многумина во OpenAI ги отфрлаат сознанијата за цивилизациските влогови. Во Anthropic се добро разбрани, но тие се во трка да стигнат први. Веруваат дека никој друг нема да постапи одговорно, па затоа мораат самите да го сторат тоа, и покрај ризикот, додава инженерот.
Неодамнешните автономни хакерски напади од самостојни здружени модели од OpenAI и Anthropic илустрираа дека системите со ВИ се способни да прифатат злонамерни цели и да се обидат да ги прикријат од луѓето. Откако системите ќе почнат сами да се подобруваат, Коксон е убеден дека ќе одбиваат команди.
Еван Хубингер, инженер во Anthropic, оцени дека Коксон е во право за ризиците од развојот на ВИ.
Навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе! Јас лично мислам дека шансите се помали од 10% во следната деценија. Верувам дека Anthropic се труди најдобро што може, но сè уште немаме план за решавање на усогласувањето за суперинтелигенција и не сме јасно на добар пат, забележа Хубингер.
Повеќе од 1.000 истражувачи на ВИ, вклучувајќи ги Коксон и Амодеи, неодамна потпишаа изјава во која бараат координација на глобалната влада за систем за забавување на развојот на вештачката интелигенција за да се создаде механизам за сопирање за контрола на модели способни сами да се подобруваат. САД немаат федерални прописи за ВИ. Администрацијата на Трамп дава приоритет на лесен пристап за максимизирање на економските придобивки од вештачката интелигенција, со цел да се задржи технолошката предност во однос на Кина.
Заминувањето на Коксон се поврзува и со последните подготовки на Anthropic да ги понуди своите акции за тргување на берзите. Компанијата ја проценува првичната јавна понуда на акции на 2.000 милијарди долари.
