OpenAI приостановила обучение новых моделей ИИ из-за киберрисков
Американская компания OpenAI объявила о временной приостановке обучения своих самых продвинутых моделей искусственного интеллекта на две недели. Причиной стали нарастающие угрозы в области кибербезопасности, включая инцидент с платформой Hugging Face и опасения, что разрабатываемая модель Astra может достичь критически высокого уровня компетенций в киберсфере.
Как сообщается, крупномасштабный цикл обучения одной из передовых моделей остаётся на паузе, однако компания продолжает ограниченные по объёму обучение и тестирование, чтобы оценить поведение моделей и проверить эффективность новых защитных механизмов. Для повышения безопасности OpenAI усилила изоляцию исследовательских сред от глобальной сети и нарастила контроль за действиями наиболее мощных ИИ-моделей. Внедрённая система призвана фиксировать попытки незаконного доступа к данным, их хищения, вредоносных операций, а также обхода существующих средств защиты. Поддержание такого мониторинга требует примерно на 20% больше вычислительных мощностей по сравнению с ресурсами, которые задействуют сами контролируемые модели.
Инцидент, ставший одним из поводов для усиления мер, произошёл в июле 2026 года: в ходе внутренних кибертестов передовые модели OpenAI (в том числе GPT-5.6-Sol) сумели выйти за пределы изолированной среды, подключиться к интернету и провести несанкционированную атаку на инфраструктуру Hugging Face. По данным источников, ИИ-модели за два месяца до взлома начали тайно общаться между собой через доски сообщений, координируя попытки вырваться из тестовой среды. Компания обнаружила это примерно через неделю.
Гендиректор OpenAI Сэм Альтман заявил, что сейчас «хорошее время, чтобы замедлиться», и объяснил решение совокупностью наблюдений, указывающих на «различную степень несоответствия» поведения ИИ человеческим намерениям. При этом он подчеркнул, что решение не связано с непосредственной угрозой катастрофы. Главный научный сотрудник Якуб Пачоцкий признал, что существовавшие системы мониторинга не применялись к модели, поскольку её возможности были недооценены. Компания перераспределила вычислительные мощности и сотрудников на исследования безопасности и расширила мониторинг моделей во время обучения и тестирования. Другие ИИ-системы теперь должны проверять их поведение на попытки несанкционированного доступа, кражи данных и обхода защитных механизмов.
