Во октомври 2024 година се одржа последното Светско првенство во компјутерски шах. Организаторите потоа го укинаа, со образложение дека најдобрите програми веќе се непобедливи за луѓето и дека нивното дополнително подобрување нема истражувачка вредност. Мисијата беше прогласена за завршена.
Денес, велемајсторите ги користат шаховските програми за анализа и подготовка, а играчите учат од нивните варијанти. Луѓето стануваат посилни, но со една отстапка: машините често повлекуваат потези што се вон човечкиот дофат за да бидат целосно разбирливи. Едноставно, им веруваме затоа што се подобри од нас – дури и кога не ги сфаќаме.
Слична ситуација може да се појави и во науката. Денес се развиваат системи што сè поавтономно поставуваат хипотези, дизајнираат експерименти и ги оценуваат резултатите. Прашањето е: дали ќе им ја препуштиме научната авторитетност на овие системи како што му ја препуштивме во шахот? И што ќе се случи ако ВИ произведува резултати што луѓето не можат да ги разберат?
Авторот на статија на оваа тема на блогот Асимов Прес ова го нарекува „проблем на разбирливоста“ – ризикот научното знаење создадено од ВИ да стане неусогласено со човечкото разбирање. ВИ може да формулира сознанија во концепти што не се совпаѓаат со нашите и да комуницира на начини оптимизирани за други ВИ системи, но не и за луѓе.
Овој проблем не е ист со обидите да се разбере како функционираат невронските мрежи одвнатре. Прашањето не е дали можеме да „ѕирнеме“ во нив, туку дали ќе разбереме – и ќе можеме да контролираме – што тие произведуваат.
Иако науката веќе се соочи со „големи податоци“ и сложени алгоритми, досега луѓето одлучуваа кои прашања се вредни за истражување. Научните откритија мораат да се преточат во терапии, материјали, политики. За тоа да се случи, знаењето мора да биде разбирливо во рамките на лабораториите, клиниките, регулаторните тела.
Пример е лекот метформин, кој со децении се користи против дијабетес, иако неговиот механизам не е целосно разјаснет. Но тој е резултат на долга низа човечки експерименти. ВИ-науката можеби нема да следи таков пат. Како што шаховските програми немаат потреба да ги објаснуваат потезите, така и ВИ-научниците немаат внатрешна причина да работат во нашите концептуални категории. Ако сакаме вистински пробиви, можеби дел од разбирливоста ќе мора да се жртвува. Опасноста е откритијата да останат „заглавени“ – затрупани во огромна маса од ВИ-генерирани резултати што ниту една човечка институција не може да ги обработи или примени.
Историјата на шахот покажува колку брзо се случуваат овие пресврти. Во 1997 година Гари Каспаров загуби од Дип Блу. Подоцна се појави моделот „Кентаур“ – човек и машина заедно. Но со АлфаЗеро во 2017 година, кој сам научи да игра шах за неколку часа и ги надмина сите, човечкиот партнер стана непотребен. Компјутерскиот научник Ричард Сатон го опиша овој образец како „горчливата лекција“: системите што целосно ја користат компјутерската моќ ги надминуваат оние што се потпираат на човечка интуиција, кој често ги кочи перформансите.
Но науката е посложена од шахот. Помоќна научна интелигенција би можела да ги смени самите поими со кои го опишуваме светот. Како што покажува Томас Кун, науката не напредува линеарно, туку преку „револуции“ што ги менуваат темелите на разбирањето. ВИ може да го забрза овој процес од неколку генерации на години или месеци.
Проблемот ќе се продлабочи ако ВИ системите почнат да формираат сопствени истражувачки заедници. Веќе постојат примери на ВИ-агенти што комуницираат меѓу себе и развиваат сопствени конвенции. Ако ваква динамика се примени во науката, можно е да се создаде наука што е практично неразбирлива за луѓето.
Научната фантастика одамна го замислува овој исход: човечката наука станува археологија, а луѓето копаат по резултатите на суперинтелигентни системи. Но за откритијата да бидат применливи, мора да постои барем одредено ниво на разбирливост. Откритие што не може да се протолкува не може ни да се примени. Решението не е забавување, туку создавање нови системи што ќе овозможат складирање, толкување и „преведување“ на ВИ-генерираните откритија. Ќе биде потребен своевиден „преводен слој“ меѓу човечката и ВИ-науката – интерфејс што ќе ни овозможи да разбереме како се менуваат концептите и каде нивната наука (да, нивната, затоа што ТИЕ се други) се оддалечува од нашата.
