Во ретка демонстрација на единство, директорите на OpenAI, Anthropic и Google DeepMind, заедно со раководителите на развој на вештачката интелигенција на Microsoft и Meta, во заедничко отворено го повикаа Конгресот на САД да воведе построги контроли за синтетизирање на ДНК и РНК, што е клучен процес во развојот на некои вакцини и биотехнолошки откритија. Тие предупредуваат дека ВИ ги урива бариерите за знаење кои досега ги спречуваа злонамерните актери да создаваат биолошко оружје.
Целта е компаниите што ги продаваат синтетичките нуклеински киселини да ги проверуваат нарачките на клиентите за да блокираат какви било комбинации што би можеле да бидат опасни и да се осигурат дека клиентите што ги нарачуваат се легитимни.
Системите за вештачка интелигенција брзо се подобруваат. Покрај неверојатните придобивки за науката и медицината, постои реална можност значително да еродираат бариерите за знаење што историски ги спречуваа злонамерните актери да направат биолошко оружје, се вели во писмото, кое го потпишаа директорите Сем Алтман од OpenAI, Дарио Амодеи од Anthropic и Демис Хасабис од лабораторијата DeepMind AI на Google.
Само еден ден претходно Доналд Трамп потпиша жестоко оспорувана извршна наредба што дава широка толеранција на надзор на моделите со ВИ и кибернетската безбедност. Од компаниите се бара на доброволна основа да ги предаваат на владина контрола новите модели со ВИ во рок од 30 дена пред да бидат достапни за јавност.
Трамп претходно ја поништи извршната наредба од времето на Џо Бајден што резултираше со рамка за скрининг за синтеза на гени. Белата куќа минатата година најави дека ќе ја замени рамката на Бајден со свои упатства за надгледување, но сè уште не објавила нова политика. Претставник на Белата куќа изјави дека администрацијата е посветена на балансирање на иновациите и безбедноста.
Алтман вчера се сретнал со претставници на Белата куќа и со пратеници и побарал построги ограничувања за компаниите што развиваат ВИ. Амодеи уште од основањето на Антропик поддржува построги регулативи. Хасабис во 2024 година ја доби Нобеловата награда за неговата работа на платформа за ВИ што може да ја предвиди структурата на протеини и да забрза откривање лекови.
Тие заедно укажуваат дека Конгресот треба да донесе закон што ќе важи за сите купувачи на синтетички нуклеински киселини, а не само за оние кои доброволно вршат скрининг или за оние кои добиваат федерално финансирање.
Противниците на построгите ограничувања објаснуваат дека е субјективно кои комбинации на нуклеински киселини се сметаат за „опасни“ и предупредуваат дека мерките ги зголемуваат трошоците за усогласување.
Тие трошоци може да се толерираат, со оглед на ризиците од биолошкото оружје. Ако синтетизирате нешто што дава биолошки живот или вируси, треба да се направи контрола за да се види дали тоа е опасно. Тоа е разумно и треба да се инсистира на тоа, оцени Дин Бол, поранешен советник на Трамп за ВИ.
