Две американски семејства го тужат Character.ai по основа дека чатботот „преставува јасна и присутна опасност“ за младите луѓе, вклучително и со „активно промовирање на насилство“.
Во тужбата како обвинет е наведен Гугл, по основа дека помогнал во развивање на платформата. Во основа од судот се бара затворање на платформата се додека на неа не се корегираат опасностите.
До разговорот со чатботот е стигнато откако 17-годишното дете, претходно дијагностицирано со аутизам, покажува сериозна промена на однесување, меѓу другото слабее и почнува да се сече самиот себе.
Тогаш мајката решава да го провери неговиот телефон, каде наоѓа скриншоти од разговорите што ги има со Карактер.аи. Платформата е една од новата генерација ВИ сервиси кои на корисниците им нудат различни чатботови за разговарање, често пати базирани на видео игри, аниме и поп-кутура.
Освен убивањето на родителите, и самоповредувањето била идеја која детето ја добило од еден од чатботовите.
Во октомври против Карактер.аи беше поднесена сосема одделна тужба, од страна на мајка на 14-годишно момче кое извршило самоубиство по чести разговори со чатботови од апликацијата.
