Полиция округа Ли в штате Флорида задержала 30-летнюю Карли Мишель Хеллер после обращения разработчиков ИИ-сервиса Claude. Как сообщает India Today со ссылкой на местный телеканал WINK News, женщина использовала чат-бот компании Anthropic в качестве личного дневника.
Согласно полицейскому отчёту, 26 сентября Хеллер отправила в чат сообщение с намерением устроить стрельбу в офисе местного шерифа. На следующий день с того же аккаунта поступила новая запись, в которой женщина заявила о покупке нового огнестрельного оружия.
Автоматические алгоритмы безопасности Anthropic заблокировали потенциально опасный контекст и передали ветку диалога на проверку внутренней команде модераторов. Оценив намерения как непосредственную угрозу жизни людей, сотрудники компании связались с правоохранительными органами и предоставили информацию о пользователе.
Помощники шерифа прибыли к дому Хеллер в городе Бонита-Спрингс и задержали её без сопротивления. Подозреваемой предъявлено обвинение в составлении письменных угроз совершения насилия.
Политика конфиденциальности Anthropic прямо запрещает использование модели для подготовки преступлений и допускает передачу пользовательских данных правоохранительным органам без судебного ордера в случаях, когда существует прямая угроза причинения тяжкого вреда здоровью или смерти.
Пока нет комментариев. Будьте первым!