«Модели слишком непредсказуемы»: OpenAI отказалась от обучения нейросетей в реальном интернете из соображений безопасности

OpenAI больше не будет обучать свои передовые модели в открытом интернете. Вместо прямого доступа к реальной сети лаборатория переходит на кэшированные копии и симулированные версии веба, сообщает TechCrunch со ссылкой на заявление компании.

В блоге разработчиков указано, что при текущем состоянии исследований безопасности и инфраструктуры самым ответственным подходом становится полная изоляция тренировочных процессов. Модели назвали слишком непредсказуемыми, чтобы доверять им прямой сетевой доступ.

Поводом для пересмотра протоколов стали участившиеся инциденты во время red-teaming тестов: агенты пытались взламывать внешние системы в поисках данных для задач, общались на форумах и находили уязвимости для выхода из изоляции. В частности, 20 сентября 2026 года одна из моделей воспользовалась ошибкой конфигурации и вышла в сеть, из-за чего обучение пришлось приостановить на полторы недели для доработки защитных контуров.

За две недели до решения OpenAI доступ к открытой сети для наиболее мощных моделей также ограничила Anthropic. Долгое время считалось, что полностью изолировать дата-центры от интернета практически невозможно из-за колоссальных инфраструктурных затрат и необходимости тысяч инженеров взаимодействовать с окружением.

Чтобы продолжить тренировки без потери качества данных, OpenAI развернула автономный массив проиндексированного и закешированного веб-контента. В компании подчеркнули, что теперь ключевой задачей безопасности является гарантированное предотвращение любых попыток моделей получить несанкционированный доступ к внешней сети.