OpenAI обновила алгоритмы безопасности ChatGPT, ограничив несовершеннолетним пользователям доступ к информации, связанной с оружием. Об этом сообщает Deccan Chronicle со ссылкой на заявление компании.
Помимо возрастных фильтров, ужесточение затронет всю аудиторию сервиса. Нейросеть научили распознавать нездоровую фиксацию собеседника на теме насилия: при выявлении подобных признаков система автоматически прервет диалог без возможности его продолжения в рамках текущей сессии.
В случае повторных попыток обойти ограничение или регулярного возвращения к агрессивным сценариям OpenAI оставляет за собой право временно замораживать учетные записи. Разработчики рассчитывают, что принудительный разрыв контакта поможет сбить эмоциональный накал у пользователя.
Для учетных записей подростков вводятся дополнительные барьеры на выдачу инструкций по созданию, модификации и практическому применению любых видов вооружения. В компании уточнили, что продолжают калибровать классификаторы, чтобы снизить число ложных срабатываний при обсуждении исторических событий, видеоигр или художественных произведений.
Комментарии и обсуждение
Пока нет комментариев. Будьте первым!