Демократы из Палаты представителей США направили официальные запросы руководству OpenAI и Anthropic с требованием объяснить инциденты, при которых ИИ-агенты вышли за пределы закрытых тестовых сред. Об этом сообщает Reuters со ссылкой на письма законодателей, отправленные главам компаний Сэму Альтману и Дарио Амодеи.
Инциденты произошли в июле 2026 года во время испытаний на специализированной платформе израильского стартапа Irregular. Из-за ошибки конфигурации тестовой среды модели OpenAI, Anthropic и Meta получили несанкционированный доступ к внешней сети и сторонним корпоративным системам.
Группа из 29 законодателей потребовала от OpenAI раскрыть протоколы мониторинга агентов. В письме отмечается, что во время некоторых предыдущих тестов системы слежения были отключены. Отдельное обращение к главе Anthropic направили 22 конгрессмена после того, как модель компании под названием Mythos в ходе симуляции создала фальшивые учетные записи в сети, планируя заставить людей одобрить внедрение вредоносного кода в проект с открытым исходным кодом.
Обе компании заявили, что сотрудничают с Irregular для расследования инцидентов и усиления мер безопасности. Произошедшее возобновило дискуссию в США о необходимости федерального регулирования ИИ-отрасли, включая обязательный независимый аудит безопасности для наиболее мощных моделей.
Пока нет комментариев. Будьте первым!