Напредокот во моделите е на пат кон „рекурзивно самоподобрување“, момент во кој системите со вештачка интелигенција ќе можат самите да се подобруваат без каква било човечка интервенција. Ова сè уште не се случило, но може да дојде порано отколку што се подготвени повеќето институции, предупредуваат коосновачот Џек Кларк и Марина Фаваро, шефица на одделението за истражување во Антропик.
Основа за предупредувањето е сопственото искуство на Антропик од развојот на модели со ВИ. Алатките за кодирање веќе ги истиснуваат програмерите, но особено голема загриженост предизвика моделот Митос, кој е способен да ги пронајде (и потенцијално да ги злоупотреби) дупките во заштитата на речиси сите оперативни системи на кои се потпираат државните агенции, банкарските системи и компаниите.
Веруваме дека би било добро светот да има можност да го забави или привремено да го паузира развојот на вештачката интелигенција за да им овозможи на општествените структури и истражувачите да бидат во чекор со напредокот на технологијата.
Антропик предлага глобален договор за да се забави развојот и да се воспостави механизам за надгледување дали сите конкуренти во индустријата ги почитуваат ограничувањата.
Без координирано глобално забавување, остануваме со сегашната ситуација: моќна технологија се развива со вртоглава брзина од различни актери во различни земји, заглавени во конкуренција едни со други каде што комерцијалните и геополитичките соперништва ги задушуваат поголемите егзистенцијални аспекти на технологијата што се гради, предупредува Кларк.
Бараат рамка слична на договорот за нуклеарно оружје, но признаваат дека запирањето на измами би било уште потешко.
Обуките се многу полесни за прикривање отколку ракетните силоси. Секој има скриен мотив да продолжи додека другите застануваат, за да оствари доминација.
Компанијата, која од своето основање става акцент на безбедноста на вештачката интелигенција, долго време трпи критики дека води политика за да им го забави напредокот на конкурентите. Дејвид Сакс, инвеститор во ризичен капитал и неформален советник на претседателот Трамп, ги обвини лидерите на Антропик дека водат „агенда за регулаторно заробување“.
Други сугерираат дека предупредувањата се маркетиншки трик, спроти очекуваното настапување на Антропик на берзите, со проценета вредност од околу 1.000 милијарда долари. Одлуката на Антропик да го ограничи објавувањето на својот моќен модел за кибернетска безбедност Митос ја оценуваат како „трик за рекламирање на напредните можности“.
Водечките експерти и „кумовите“ на ВИ се поделени во ставовите колку е далеку новата технологија од достигнувањето на „општа вештачка интелигенција“ (AGI), по кое таа би ја надминала интелигенцијата на просечниот човек. Јан ЛеКун, поранешен главен научник во Мета, тврди дека јазичните модели никогаш нема да можат да го направат скокот. Ги гледа како моќни алатки, но ги споредува со интелигенцијата на мачка, без егзистенцијален ризик за човештвото.
Дарио Амодеи, коосновачот и директор на Антропик, предупредува на ризикот дека идните понапредни модели со ВИ може да развијат „деструктивни тенденции на непредвидливи начини“. Според него, обуката на системи со научно-фантастични наративи за бунт на машините би можела да поттикне вистински бунт.
