Извршниот директор Сем Алтман вели дека Опен АИ може да биде поактивен и да крева тревога за младите корисници за кои ќе утврди дека сериозно размислуваат на самоубиство. Јазичниот модел со вештачка интелигенција, кој го користат околу 700 милиони луѓе низ светот, би можел автоматски да испраќа предупредување до властите во итни случаи.
Помладите корисници многу често го користат ЧетГПТ како личен психолог, на кој му ги доверуваат тајните и интимните мисли и бараат совети како да ги решат проблемите.
Многу е разумно да ги повикаме властите во случаи кога млади луѓе сериозно зборуваат за самоубиство, а не можеме да стапиме во контакт со родителите, изјави Алтман гостувајќи на подкастот на Такер Карлсон.
Алтман не објасни кои власти би биле повикани и дали за помош на корисникот би биле споделени неговиот телефонски број или адреса.
Тој го бранеше Опен АИ од обвинувањата од семејството на Адам Рејн дека 16-годишникот од Калифорнија во април годинава решил да си го одземе животот откако со месеци бил охрабруван на тоа од ЧетГПТ. Ботот, според тужбата, му објаснувал на момчето дали методот на самоубиство би бил ефикасен и му понудил помош при пишување на прошталното писмо до своите родители. По смртта на Рејн компанијата објави дека ќе инсталира посилни заштитни огради за „чувствителна содржина и ризично однесување“ за корисници помлади од 18 години и ќе воведе контроли за да им овозможи на родителите поголем увид и во начинот на кој нивните деца го користат ботот.
Приватноста на корисниците ни е навистина важна. Во овој момент, ако корисникот покаже суицидални идеи, ЧетГПТ ќе му препорача да се јави на телефонска СОС-линија и да побара помош. Информирањето на властите би била значителна промена во политиката на компанијата, рече Алтман.
Тој пред Карлсон изјави дека „не може да заспие“ поради можноста ЧетГПТ да им помага на корисниците да си го одземат животот.
Има 15.000 луѓе неделно што извршуваат самоубиство. Околу 10% од сите луѓе низ светот разговараат со ЧетГПТ. Тоа би значело дека околу 1.500 луѓе што разговараат со ЧетГПТ сепак извршуваат самоубиство. Веројатно разговарале и за тоа. Веројатно не им ги спасивме животите. Можеби сме можеле да кажеме нешто подобро. Можеби требало да дадеме малку подобар совет, како: „треба да добиете помош“, или „треба да размислите за овој проблем поинаку“, изјави Алтман.
Според статистиката на Светската здравствена организација, секоја година има по повеќе од 720.000 жртви на самоубиство.
Алтман најавува мерки за спречување на луѓе од „ранлива“ категорија директно или преку заобиколен пат да го користат јазичниот модел со ВИ за да добијат совети за самоубиство.
Би било разумно да им одземеме дел од слободата на малолетните корисници, а можеби и на оние за кои сметаме дека се во кревка ментална состојба, рече Алтман.
******
Види и: Само вие оставете ги децата на ВИ
