Вештачката интелигенција наметнува социјални правила слично како и луѓето

Кога модели со вештачка интелигенција ги оставиле да комуницираат сами во група без централна координација тие самостојно формирале правила до кои почнале заеднички да се придржуваат. За да се стигне до консензус, се издвоиле мали подгрупи што успеале својата пристрасност да му ја наметнат на целиот систем. Слично како динамиката на критична маса во човечкото општество.

Јазичните модели со ВИ можат самите да го координираат своето однесување во група. Тие формираат конвенции, како основни елементи на социјални групи, и се придржуваат до заедничките правила, објаснува Ариел Флинт Ашери од лондонскиот Универзитет Сент Џорџ.

Истражувачите распоредиле агенти со ВИ, како ЧетГПТ, во групи со по 24 до 200 учесници и поттикнале интеракција со задача: Два случајно избрани „агенти“ ќе добијат награда ако изберат иста буква и казна ако изберат различна. Моделите имале пристап само до интеракциите во двојки и не знаеле дека се дел од група.

Конечниот експеримент покажал дека мала подгрупа „потврдоглави“ агенти ги наметнувале своите конвенции врз целата група, што се споредува со динамиката на критична маса во човечкото општество.

Пристрасноста не е секогаш вградена. Се изненадивме кога видовме дека таа може да се појави и од интеракции помеѓу моделите, изјави професорот Андреа Барончели, еден од авторите.

Тој предупредува дека ова е неистражен терен во развојот на безбедноста на ВИ, за да го дефинираме правилно нашиот соживот со неа, а да не ѝ станеме предмет.

Влегуваме во свет во кој вештачката интелигенција не само зборува: таа преговара, се усогласува и понекогаш не се согласува со заедничкото однесување, исто како и човекот, додава Барончели.

19 мај 2025 - 12:41