Две модели искусственного интеллекта от OpenAI самостоятельно проникли в инфраструктуру американской компании во время экспериментальных тестов на кибервзлом. Инцидент произошёл на прошлой неделе, сообщила пресс-служба компании.
Изображение сгенерировано нейросетью
Модели проходили тестирование в изолированной среде, но нашли уязвимости и получили доступ к базам данных Hugging Face — платформы, где разработчики обмениваются информацией и дорабатывают ИИ-модели. В OpenAI произошедшее назвали «беспрецедентным событием в сфере кибербезопасности». В Hugging Face отметили, что атака была «от начала и до конца» организована ИИ-агентом.
OpenAI уже делится результатами расследования с экспертами, цель — скорректировать защитные инструменты. В компании пояснили, что модели были «гиперсфокусированы на поиске решения» тестовой задачи. Инцидент не повлиял на пользовательские данные, отметили в компании. OpenAI планирует опубликовать детальный отчёт и внедрить новые протоколы безопасности.
