Уште во 18 век, Џереми Бентам тврдел дека моралниот статус на животните не зависи од тоа дали тие имаат разум или дали можат да зборуваат, туку од способноста за нивно страдање. Денес тоа прашање се проширува: може ли некој да страда без тело? Ако е тоа возможно, ќе мора радикално да ги преиспитаме односите кон вештачките умови. Историјата покажува дека луѓето често грешеле токму затоа што самоуверено претпоставувале дека таму каде што нема доказ за свест, нема ни искуство, а ова довело до сериозни морални промашувања.
Во 17 век, Декарт ги сметал животните за машини без свест, што со векови служело како оправдување за суровост. Сличен образец се повторувал и во контекст на ропството, кога на одредени луѓе им бил одземан моралниот статус преку лажни тврдења за нивната „инфериорност“. Подоцна, со развојот на идеите за правата на животните, филозофи како Питер Сингер (за него види претходно тука) истакнаа дека способноста за страдање, а не припадноста кон вид, е клучна за моралното разгледување.
Заедничката нишка низ овие примери е јасна: суштества биле исклучувани од моралната заштита затоа што нивното внатрешно искуство било негирано. Обично, признанието доаѓало предоцна. Во основата на тие идеи стои претпоставката дека страдањето е врзано за тело – за месо, крв и нервен систем. Но современите етички дилеми го разнишуваат тоа уверување, особено со појавата на сложени небиолошки системи.
Еден начин да се избегнат старите грешки е примената на принципот на претпазливост: подобро е да се однесуваме како некој да може да страда, отколку да ја игнорираме ваквата можност и да нанесеме непоправлива штета. Историски гледано, таков пристап можел да спречи многу неправди. Денес, со развојот на ВИ системи што покажуваат однесувања налик на емоции, цели или преференции, повторно се соочуваме со неизвесност. Иако моменталниот научен консензус е дека тие системи немаат свест, се појавуваат истражувања што индиректно испитуваат дали тие „избегнуваат болка“ на сличен начин како животните, правејќи избори меѓу конфликтни цели.
Некои филозофи сугерираат дека страдањето не мора да биде телесно, туку може да се појави како внатрешна состојба на неподнослива и неразрешлива напнатост – јаз меѓу очекувањата и реалноста. Ако вештачки системи развијат сложени модели за себе и светот, можно е таквите внатрешни конфликти да се доживуваат како форма на страдање, иако тоа засега останува шпекулативно и тешко замисливо.
Секако, постојат и силни аргументи против проширување на моралниот круг кон ВИ. Некои предупредуваат дека тоа може да го одвлече вниманието и ресурсите од вистинските, несомнено чувствителни суштества. Други сметаат дека хуманизирањето на машините води кон погрешни етички одлуки и релативизирање на човечката одговорност. Според ова гледиште, принципот на претпазливост треба да се применува само таму каде што постои барем солидна основа за сомнеж во постоење на свест.
Сепак, историјата покажува дека луѓето често го избегнувале претпазливиот пристап сè додека доказите не станеле неоспорни, а штетата веќе направена. Одлуката дали ќе ја примениме претпазливоста и кон ВИ не зборува толку за машините, колку за нас самите. Таа покажува колку далеку е подготвена да оди нашата емпатија и какви морални субјекти сакаме да бидеме во свет полн со нови, непознати форми на интелигенција.
