OpenAI нанимает сотни сторонних подрядчиков, которые читают и анализируют реальные переписки пользователей с ChatGPT, сообщает 404 Media со ссылкой на внутренние инструкции, переписки в корпоративных чатах и свидетельства участников программы.
Основная задача модераторов — оценивать качество сгенерированных ответов, снижать склонность модели к поддакиванию и предотвращать самоолицетворение ИИ. В специальном интерфейсе специалисты выбирают задачи, изучают запрос пользователя, формулируют суть его намерения и оценивают несколько предложенных вариантов ответа по параметрам полезности и тональности.
Хотя OpenAI скрывает имена учетных записей и заявляет о фильтрации личных сведений, чувствительная информация всё равно доходит до проверяющих. Пользователи часто воспринимают чат-бот как личного ассистента или психотерапевта, передавая ему конфиденциальные личные и рабочие данные. В некоторых карточках задач модераторы также видят выжимку из памяти бота (User Memory), которая может раскрывать контекст жизни или локацию человека.
По словам одного из участников программы, большинство пользователей даже не догадываются, что их сообщения попадают к живым людям. В Anthropic журналистам 404 Media подтвердили, что компания также использует ручную проверку диалогов для улучшения своих моделей.
Пока нет комментариев. Будьте первым!