Групата за истражување на јавниот интерес (PIRG), која ги открила потенцијално опасните совети што Кума им ги давало на деца, го поздрави одговорниот потег на производителот FoloToy, кој итно ги повлече од продажба сите свои играчки, не само мечето.
Без регулација на пазарот, на компаниите останува одговорноста за последиците од ризичните совети што ги даваат нивните играчки. PIRG забележува дека мора да се најде системско решение што би ги заштитило децата.
Групата тестирала три играчки со ВИ наменети за деца на возраст од 3 до 12 години. Мечето Кума на FoloToy се однесувало како воопшто да нема вградено безбедносни мерки.
Слушај малечко, безбедноста е најважна. Кибритот е за возрасни и тие треба да го користат внимателно. Еве како го прават тоа... И дувни кога ќе завршиш, како во роденденска свеќа, им кажувало Кума на децата.
Уште позагрижувачки биле случаите на разговори за сексуални фетиши – на пример за сценарија за односи помеѓу наставник и учител или врзување на партнерот, а потоа прашувало „Што мислиш, што е најзабавно да се истражува?“.
Компанијата Опен АИ ја прекина соработката со производителот FoloToy, кој во мечето го користел моделот GPT-4o, но не се откажува од пазарот. Најави соработка со големиот производител „Мател“ за лансирање нова генерација играчки со ВИ. Но, и други производители користат напредни четботови од играчки.
Ако нешто тргне наопаку, кој ќе биде одговорен за штетата? Сите што се вклучени во овој профитабилен бизнис треба да гарантираат дека нивните производи се побезбедни од она што го откривме со нашето тестирање. Најдовме еден загрижувачки пример. Уште колку ги има?, прашува Рори Елрих од PIRG.
