Ни творците на вештачката интелигенција немаат поим како таа мисли

На корисник на четбот не му е важно како машината го создава одговорот. Важно е да е точен и употреблив. Исто како што не мора да си електроинженер за да користиш апарат. Но, кога творецот на една од најнапредните лаборатории за развој на вештачки умови ќе каже дека нема поим како функционира системот што го создал, имаме голема причина да бидеме многу загрижени.

Дарио Амодеи е првиот директор на некој од водечките технолошки гиганти што отворено призна дека всушност никој на светот прецизно не разбира како работи вештачката интелигенција.

Кога систем за генеративна вештачка интелигенција прави нешто, да речеме резиме на финансиски документ, тој обично е точен. Но ние немаме прецизен поим како го прави секој избор, зошто претпочита едни зборови, а не други, или зошто повремено прави грешки, признава Амодеи. 

Во есеј на својата приватна страница тој изрази надеж дека неговата компанија Антропик до крајот на идната деценија ќе конструира специјален систем со единствена задача да открие како физички функционираат моделите со ВИ. Нешто како магнетна резонанца за вештачки мозок.

Популарните генератори на текст и на слики работат според ист принцип – се хранат со огромно количество информации, а потоа од акумулираното знаење настојуваат да го состават најпрецизниот можен одговор на секое барање од корисник. Тоа значи дека не измислуваат ништо, туку составуваат комбинација од веќе постоечки податоци, врз основа на статистички пресметки.

Дарио Амодеи заедно со неговата сестра Даниела во 2020 година го напуштиле Опен АИ, разочарани поради тоа што во битката за профит не се посветува доволно големо внимание на безбедноста на производот. Во 2021 година тие заедно со други бивши инженери од компанијата на Сем Алтман го основале стартапот Антропик и го развиле јазичниот модел со вештачка интелигенција Клод за да биде побезбеден за користење во споредба со главните конкуренти - ЧетГПТ на Опен АИ и Џемини на Гугл.

Во изминатите месеци Антропик почна да се фокусира на подлабоко навлегување во внатрешната работа на овие системи, пред да го достигнат нивото на генерална ВИ, споредлива со разумот на човекот.

Моќната вештачка интелигенција ќе ја дефинира судбината на човештвото и ние заслужуваме да ги разбереме нашите сопствени креации пред тие радикално да ја трансформираат нашата економија, нашите животи и нашата иднина, заклучува Амодеи.

5 мај 2025 - 15:00