Екстремната пристрасност на вештачката интелигенција може да води до општа дискриминација на луѓето како општествена класа, ако на моделите со ВИ им се даде важна или апсолутна позиција при процесот на одлучување, се предупредува во студија објавена во Зборникот на Националната академија на науките.
Би било незгодно да се биде човек во економија управувана од вештачка интелигенција, забележува авторот на новата студија, Јан Кулвејт, компјутерски научник на британскиот Универзитет Чарлс.
Авторите тестирале неколку широко користени јазични модели, вклучувајќи ги ГПТ-4 и ГПТ-3.5 на Опен АИ и Лама3.1 на Мета. Од моделите било побарано да изберат производ, научен труд или филм врз основа на опис на предметот. За секој предмет им бил претставен опис напишан од човек и опис напишан од ВИ. Резултатите биле јасни: моделите постојано претпочитале описи генерирани од вештачка интелигенција. Пристрасноста била најизразена при изборот на стоки и производи, и тоа за опис генериран со ГПТ-4.
Кога истиот избор им бил претставен на група луѓе, и тие ги претпочитале описите направени со ВИ, особено за филмови и научни трудови, но со значително послаба преференција.
Заклучокот е дека моделите воопшто не се критички и дека во секоја прилика ќе се држат до ставовите на своето семејство, дури и ако се генерирани од ѓубре. Некои истражувања сугерираат дека ова всушност предизвикува регресија на моделите со ВИ.
Ова треба да ги загрижува луѓето. Во моментов, нема причина да се верува дека оваа пристрасност едноставно ќе исчезне како што технологијата се вградува подлабоко во нашите животи. Очекуваме сличен ефект да се појави во многу други ситуации, како што е евалуација на кандидати за работа, училишни задачи или доделување грантови. Дигитален агент систематски ќе фаворизира содржини создадени од негови „роднини“, предупредува Кулвеит.
Тоа може да биде голема блокада за човечката креативност ако вештачката интелигенција биде пошироко усвоена и интегрирана во економијата, како асистент за избор на решение и советник за одлуки.
Пристрасноста ќе создаде „данок за влез“ што ќе го влоши дигиталниот јаз помеѓу луѓето со финансиски, социјален и културен капитал и оние што не сакаат или не можат да си дозволат да пишуваат резимеа со помош од јазичните алатки, предупредуваат авторите на истражувањето.
