OpenAI выпустила ChatGPT for Teens — специальную версию чат-бота для пользователей в возрасте от 13 до 17 лет. Платформа по умолчанию активирует повышенные ограничения контента и добавляет функции родительского контроля, сообщает Quartz.
Все аккаунты, владельцы которых указали возраст младше 18 лет или были определены алгоритмами как несовершеннолетние, переводятся в новый режим автоматически. По данным The Wall Street Journal, внутренняя система оценки анализирует около 2000 косвенных сигналов, включая темы запросов и время активности. Ошибочно определенный возраст можно оспорить через верификацию.
В интерфейсе появился режим «Study Mode», предназначенный для учебы: вместо готовых ответов чат-бот задает наводящие вопросы и пошагово разбирает задания. Пользователи и родители могут настраивать расписание «Study Hours», а алгоритм будет возвращать подростка к самостоятельному поиску решений, если тот попытается списать домашнюю работу.
Базовые фильтры блокируют темы селфхарма, расстройств пищевого поведения, насилия и романтического общения. Обновленные системные инструкции также запрещают нейросети использовать романтические формулировки, поощрять эмоциональную привязанность или заявлять о наличии у нее чувств и сознания.
Родители могут связать свои профили с аккаунтом подростка, чтобы настроить «тихие часы» с ограничением доступа и получать уведомления при опасных сценариях взаимодействия. Если подросток отвяжет аккаунт, родитель получит предупреждение. Кроме того, сервис напоминает сделать перерыв после 90 минут использования за трехчасовой интервал и предупреждает перед отправкой конфиденциальных изображений.
Релиз состоялся на фоне судебных исков от семей и властей нескольких штатов, утверждающих, что использование искусственного интеллекта нанесло вред несовершеннолетним пользователям, отмечает CNN. В OpenAI отвергают эти обвинения.
Пока нет комментариев. Будьте первым!