Компания Anthropic объявила о предоставлении экспертам некоммерческой организации METR глубокого доступа к своей внутренней инфраструктуре на правах штатных специалистов, сообщает ZDNET. Это первый подобный прецедент в индустрии разработки передового искусственного интеллекта.
Шесть аудиторов METR получили корпоративное оборудование, рабочие места в офисе Anthropic и доступ к служебным системам, аналогичный уровню собственных команд компании по оценке рисков. Исключение сделано лишь для персональных данных пользователей, сведений под адвокатской тайной и закрытой архитектуры моделей. Сотрудникам компании рекомендовано взаимодействовать с исследователями так же открыто, как и с коллегами внутри отдела безопасности.
По условиям соглашения METR будет публиковать результаты проверок самостоятельно. Anthropic не имеет права запретить публикацию отчетов, оставив за собой лишь возможность запросить скрытие критически чувствительных коммерческих параметров и данных об обучении, способных помочь злоумышленникам.
В компании заявили, что стремятся сократить разрыв между реальным пониманием рисков моделей разработчиками и внешними экспертами. Ключевым фактором стало отсутствие у специалистов METR доли в капитале Anthropic, а также финансовой или операционной зависимости от стартапа.
Инициатива реализуется на фоне растущего давления со стороны американских регуляторов. В Конгрессе США продвигают законопроект FRONTIER Act, предлагающий обязать ИИ-лаборатории проходить аудит у независимых верификационных организаций, а Федеральная торговая комиссия (FTC) недавно запросила внутренние данные Anthropic и OpenAI относительно потенциального вреда моделей для потребителей.
Пока нет комментариев. Будьте первым!