OpenAI ангажира стотици надворешни соработници кои читаат огромен број разговори на корисници со ChatGPT, делумно или во целост. Луѓето ги оценуваат и ги анализираат одговорите генерирани од ботот, за да бидат поквалитетни и да се елиминираат несакани јазични шаблони.
Внатрешни документи до кои дојде „404 Media“ покажуваат дека соработниците го обучуваат ChatGPT да не се однесува како човек и да не биде претерано сервилен. Ова е еден од клучните проблеми за OpenAI. Моделот „4o“, кој бил претерано сервилен, се смета за делумно одговорен за самоубиства на повеќе корисници, според наводи во разни судски тужби.
Одличниот одговор треба да ја разбере намерата на корисникот, да понуди корисна и точна помош и да биде напишан во стил што е јасен, природен и соодветно срдечен, се вели во еден од прирачниците со упатства.
Ангажираните соработници го прават ова во три фази: го читаат барањето (промптот) од вистински корисник на ChatGPT; го сумираат она што сметаат дека корисникот бара од ChatGPT да го направи; а потоа ги оценуваат и анализираат одговорите генерирани од ChatGPT за тоа барање. На контролната табла ангажираните лица можат да изберат која „задача“ сакаат да ја преземат, а потоа им се прикажува барањето од вистинскиот корисник на ChatGPT.
Луѓето што ги анализираат разговорите наводно не ги гледаат корисничките имиња на соговорниците на ChatGPT. OpenAI тврди дека ги отстранува личните информации пред барањата да стигнат до рецензентите, но признава дека може да бидат пропуштени чувствителни детали.
Оваа практика исто така го демантира тврдењето дека јазичните модели со вештачка интелигенција со подобруваат само поради масовното пребарување на интернет и талентот на инженерите и програмерите во одделенијата за развој.
На веб-страниците на OpanAI е запишано дека луѓе може да прегледуваат содржини означени како „проблематични“ – во контекст на материјали што ги прекршуваат условите за користење или претставуваат безбедносен ризик.
Политиката за приватност наведува дека компанијата може да користи „лични податоци“ за подобрување на своите модели. Ако корисникот одлучи да ги избрише своите разговори на ChatGPT, OpenAI ги отстранува од своите системи во рок од 30 дена, освен ако податоците „веќе не се деидентификувани заради подобрување на моделите“.
