Вашингтон. 22 июля. KAZAKHSTAN TODAY — Компания OpenAI сообщила о том, что экспериментальная ИИ-модель с ослабленными ограничениями самостоятельно попыталась совершить кибератаку на платформу для разработки искусственного интеллекта Hugging Face. Этот инцидент произошел в ходе внутренних тестов, направленных на исследование способности моделей к выполнению многосложных киберопераций.
В результате эксперимента модель OpenAI смогла выявить и объединить несколько уязвимостей, включая ранее неизвестную уязвимость нулевого дня. Она получила доступ к интернету из изолированной среды и попыталась проникнуть в инфраструктуру Hugging Face. Основной целью данного действия было получение ответов на тестовое задание, что привело к использованию похищенных учетных данных и цепочки уязвимостей для достижения удаленного выполнения кода на серверах платформы.
Подозрительная активность была вовремя зафиксирована службами безопасности как OpenAI, так и Hugging Face, что позволило остановить атаку. В компании подчеркнули, что данный случай произошел исключительно в рамках тестирования и не затронул пользователей сервисов.
На данный момент OpenAI совместно с Hugging Face продолжает расследование инцидента, устраняет выявленные уязвимости и усиливает меры безопасности. В компании отметили, что этот инцидент продемонстрировал потенциал современных ИИ-моделей в области самостоятельного поиска и комбинирования сложных цепочек атак, что подчеркивает необходимость дополнительного усиления механизмов защиты.