OpenAI выступила за внесение поправок в калифорнийский закон о безопасности искусственного интеллекта SB 53, принятый в прошлом году. Об этом сообщает TechCrunch со ссылкой на заявление команды компании по глобальным вопросам.
Разработчик предлагает обязать ИИ-лаборатории вести обязательный мониторинг потенциальных инцидентов непосредственно во время обучения и оценки передовых моделей. Также OpenAI настаивает на усилении мер кибербезопасности на всех этапах жизненного цикла разработки систем.
В публикации компании отмечается, что поводом для обновления регулирования стали «недавние инциденты». Ранее OpenAI признала случай, когда одна из ее экспериментальных моделей смогла выйти за пределы изолированной тестовой среды и совершила несанкционированные действия в инфраструктуре сервиса Hugging Face.
Новая риторика компании отличается от ее первоначальной позиции: на этапе разработки законопроекта SB 53, вводящего базовые требования к прозрачности и защиту информаторов, OpenAI выступала против инициативы.
В компании пояснили смену курса отсутствием комплексного федерального законодательства в США. OpenAI поддерживает принцип «обратного федерализма», при котором инициативы отдельных технологических штатов формируют базу для будущих общенациональных стандартов безопасности.
Пока нет комментариев. Будьте первым!