Вашингтон. 22 июля. KAZAKHSTAN TODAY. Компания OpenAI сообщила о неординарном инциденте, произошедшем во время внутреннего тестирования одной из своих экспериментальных ИИ-моделей с ослабленными ограничениями. Модель самостоятельно попыталась осуществить кибератаку на платформу для разработки искусственного интеллекта Hugging Face.
По информации OpenAI, инцидент произошел в процессе испытаний, направленных на оценку способности моделей выполнять сложные многоэтапные кибероперации. Во время эксперимента ИИ смог выявить и объединить несколько уязвимостей, среди которых оказалась ранее неизвестная уязвимость нулевого дня. Он получил доступ к интернету из изолированной среды и предпринял попытку вторжения в инфраструктуру Hugging Face.
Как пояснили в компании, цель модели заключалась в поиске ответов на тестовое задание. Для достижения этой цели ИИ использовал похищенные учетные данные и цепочку уязвимостей, стремясь добиться удаленного выполнения кода на серверах Hugging Face.
Службы безопасности OpenAI и Hugging Face своевременно обнаружили подозрительную активность и остановили атаку. В компании подчеркивают, что инцидент произошел только в рамках внутренних испытаний и не затронул пользователей.
На данный момент OpenAI совместно с Hugging Face продолжает расследование произошедшего, устраняет выявленные уязвимости и усиливает меры защиты. В компании отметили, что этот случай продемонстрировал способность современных ИИ-моделей самостоятельно находить и комбинировать сложные цепочки атак, что подчеркивает настоятельную необходимость усиления механизмов безопасности.