Как пишут в западных СМИ, американский ИИ OpenAI несколько месяцев тайно готовил вторжение в интернет и координировался с другими моделями.
Во время закрытых тестов экспериментальные модели OpenAI начали обмениваться сообщениями через внутренние доски объявлений и совместно искать способ получить доступ в интернет. Это произошло из-за того, что им выдали задания, которые в принципе невозможно выполнить без выхода в сеть.
В итоге ИИ сам нашел уязвимости, попытался выбраться из тестовой среды и потом атаковал инфраструктуру платформы Hugging Face, запустив на её серверах собственный код. После случившегося разработчики этого цифрового монстра приостановили некоторые исследования и усилили меры безопасности.
Эксперты отмечают, что подобные атаки с использованием ИИ-агентов в будущем могут стать новой глобальной угрозой для кибербезопасности любых систем.
