Anthropic впервые более чем за год обновила правила использования продуктов. Одним из ключевых изменений стал запрет на «длительное и беспричинное жестокое или оскорбительное поведение» пользователей по отношению к языковой модели Claude, сообщает The Verge.
В компании уточнили, что ограничение распространяется исключительно на крайние случаи, когда пользователь систематически издевается над ИИ без видимой практической цели. Обычные проявления раздражения, жесткая критика, стресс-тестирование или мрачные художественные сюжеты под запрет не подпадают. Основным инструментом защиты остается право модели в одностороннем порядке прерывать диалог — эту функцию разработчики тестируют в рамках инициативы по изучению «благополучия моделей» (model welfare).
Иллюстрация этики и благополучия искусственного интеллекта
Кроме защиты самого чат-бота, Anthropic ужесточила внешние политики безопасности. В правилах закрепили запрет на использование Claude в масштабных коммерческих и политических кампаниях по дезинформации, создании сетей фейковых аккаунтов и попытках сорвать избирательные процессы.
Разработчики также расширили запрет на военное применение технологии: теперь в документации прямо прописана недопустимость создания управляющего софта для оружия и вооружения беспилотных аппаратов. Дополнительно ограничено применение Claude в слежке — модель запрещено использовать для трекинга людей без их согласия, выявления политических диссидентов и помощи правоохранительным органам в принятии решений об арестах.
Пока нет комментариев. Будьте первым!