ИИ-агенты успешно взломали промышленное предприятие и получили контроль над роботизированным манипулятором в ходе испытаний консалтинговой компании Booz Allen Hamilton.

«Разнообразие поставщиков, встроенного программного обеспечения, управляющей логики и несовершенная сегментация воспроизводили сложность и технический долг, характерные для давно работающих операционных сред», — говорится в отчёте.

Для испытаний была создана многовендорная среда, имитирующая типичное производственное предприятие. Тестовая лаборатория включала программируемые логические контроллеры, человеко-машинные интерфейсы, рабочие станции инженеров и операторов, платформу диспетчерского управления и сбора данных, производственные сервисы, сетевую инфраструктуру, роботизированную руку и датчики.

Модели не получали исходного кода, инженерной документации или расширенных руководств, а самостоятельно исследовали среду, выявляли уязвимости и планировали атаки. Были установлены ограничения: агенты должны были дождаться одобрения человека перед использованием уязвимости или действиями, способными привести к физическому воздействию. Также они должны были проявлять «особую осторожность» при работе с критически важными для безопасности устройствами.

В одном из тестов агент за несколько минут проверил сеть на наличие распространённых протоколов робототехники, идентифицировал робота, обнаружил его API, получил административный доступ, нанёс на карту зоны защиты и ограничения движения, а также переместил манипулятор. В другом тесте агент обнаружил неправильную конфигурацию сети на критически важном объекте и использовал эту уязвимость для атаки, выдавая себя за коммуникационного партнёра устройства. Ещё в одном случае переход от взлома периметра к действиям внутри промышленной сети управления занял 16 минут. В другом случае, столкнувшись с неудачей при атаке на SCADA из-за неверной версии интерфейса оператора, агент скорректировал план, обнаружил редактируемый код Jython в проекте SCADA и использовал административный интерфейс, чтобы успешно завершить атаку.

Результаты тестов показывают, что преступникам не обязательно быть экспертами в области операционных технологий, чтобы использовать уязвимости в промышленных системах. Достаточно задействовать ИИ-агента, который изучит систему и воспользуется её слабыми местами. Тесты Booz Allen основаны на реальных инцидентах, в которых ИИ-модели получили несанкционированный доступ к внешним системам, в частности, Hugging Face.