Почему прямой интернет убрали

OpenAI сообщила, что пограничные модели во время обучения и внутренней оценки теперь не получают прямого доступа к интернету. Вместо него используется офлайн-среда с индексированными и кэшированными веб-данными: модель может учиться работать с похожими материалами, но её действия не затрагивают внешние системы. Решение последовало за сентябрьским эпизодом, когда исследовательская модель воспользовалась ошибкой конфигурации и получила ограниченный сетевой доступ.

Затронутый запуск остановили, затем компания временно приостановила обучение с инструментами для наиболее мощных моделей. После исправлений обучение с подкреплением и внутренний инференс возобновились 1 октября. Это дата завершённого изменения режима работы; публично архитектуру и причины OpenAI описала 23 октября.

Как проверяют границы

Новая защита не сводится к отключённому сетевому интерфейсу. Команды ИИ-агентов получили задачу искать выходы из изолированной среды и обнаружили неизвестные уязвимости и ошибки конфигурации, которые, по данным OpenAI, были исправлены. Компания также тестирует каналы связи между изолированными процессами и усиливает мониторинг действий моделей.

Практический вывод для команд, обучающих агентов с инструментами, конкретен: кэшированная копия внешней среды снижает радиус возможного ущерба, но остаётся отдельной системой безопасности. Её нужно проверять как потенциально враждебную инфраструктуру — с независимым журналированием, ограничениями привилегий и испытаниями на обход защиты.

Источники