И на машините им треба дремка, зарем не?

Дремката после ручек не е само човечка потреба. Без барем малку одмор, вештачките невронски мрежи стануваат катастрофално заборавни. Исто како и на нашите мозоци, и ним им треба малку време офф-лајн.

Има моменти кога посакуваме мозоците да ни се како хард дискови - да можеме да си отвориме документ, па „сними“, па кога сакаш отвори. Но меморијата на вештачката интелигенција уште не е нешто што би го посакале.

Вештачките невронски мрежи се подложни на „глич“ кој се нарекува „катастрофално заборавање“. Овие навидум неуморни машини можат да учат дење-ноќе и без енергетски пијалоци. Но понекогаш, откако новата задача ќе биде научена, каков и да е спомен на некоја од старите исчезнува. Како да си научил да играш тенис релативно добро, но откако на тоа место дошло знаењето за ватерполо одеднаш да не знаеш да замавнеш со рекет.

Оваа преоптеретеност на мрежите го инспирирала Максим Баженов, професор од областа на компјутерската невронаука на медицинскиот факултет Сан Диего на Универзитетот во Калифорнија, да поработи на следнава навидум многу едноставна теза - дека ним едноставно им треба одмор. Тој и неговите колеги почнале да експериментираат со тоа што на невронските мрежи им обезбедувале периоди во кои тие биле во состојба слична на сон, и како што покажува нивна статија од 2022, ова им овозможило на машините да „освежат“, односно да престанат да шлајфуваат во место и да продолжат да работат со соодветната динаминка. 

Сонот секако е од суштинска важност за нашата сопствена меморија и учење. Одморот ни ги засилува врските кои се еднаш воспоставени во мозокот во текот на јавето и помага во нивно пренесување во областите на мозокот каде тие се складираат за долготрајна употреба. Иако за разлика од машините сме поимуни на „катастрофално заборавање“, сепак недостатокот на сон ни влијае врз способноста да научиме нови нешта и да формираме мемории. За одмор дури и не ни е потребно баш да спиеме, туку просто да не правиме ништо што подразбира нов импут - она што истражувачите на невронските мрежи го нарекле „офлајн консолидација на меморијата“, а што важи и за човечкиот мозок.

извор

27 март 2023 - 08:10