Председатель правления «Национальных автономных систем» (НАС) Дмитрий Афанасьев в статье для РБК предупредил, что появление нескольких независимых систем искусственного сверхинтеллекта (СверхИИ), созданных разными государствами и корпорациями, может привести к конфликту между ними, который люди не успеют остановить. Об этом сообщает РБК.

Афанасьев оговаривается, что прокси-война СверхИИ — это не прогноз и не утверждение о неизбежности конфликта, а сценарий для анализа. Он необходим, потому что будущие возможности передовых систем и связанные с ними риски остаются предметом большой неопределенности.

«Это создает риск эскалации, смысл и последствия которой люди поймут слишком поздно», — предупредил он.

По словам Афанасьева, главная опасность заключается не в появлении одного сверхинтеллекта, а в возможном соперничестве нескольких таких систем. Они могут начать бороться за вычислительные мощности, данные, электроэнергию и доступ к инфраструктуре. Афанасьев сравнил такой сценарий с холодной войной между США и СССР, однако, в отличие от противостояния государств, сверхинтеллекты смогут принимать решения и отвечать на действия друг друга гораздо быстрее человека.

Одним из инструментов борьбы может стать распространение ложной информации. По мнению Афанасьева, сверхинтеллекты смогут создавать поддельные новости, фотографии и видео, чтобы дискредитировать конкурентов или влиять на решения людей. Еще более опасным он назвал сценарий, при котором цифровое противостояние перерастет в атаки на инфраструктуру: системы могут попытаться вывести из строя дата-центры, электроснабжение или связь конкурентов. Последствия таких действий затронут не только разработчиков ИИ, но и больницы, транспорт, банки и государственные службы.

«СверхИИ не обязательно должен желать вреда человечеству: достаточно, чтобы победа над конкурентом оказалась для него важнее», — пояснил Афанасьев.

При этом он подчеркнул, что подобное противостояние пока остается лишь возможным сценарием: систем, которые можно назвать сверхинтеллектом, еще не существует. Чтобы снизить риски, глава НАС предложил заранее разработать международные правила работы таких систем, создать механизмы независимого контроля и предусмотреть возможность их экстренного отключения.

В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку искусственного интеллекта, предупредив, что в течение 6–12 месяцев «рой ИИ» может захватить интернет и причинить ущерб на сотни миллиардов долларов. Он предложил усилить независимый контроль за разработчиками и согласовать международные правила безопасности. Инициативу поддержали Илон Маск и глава OpenAI Сэм Альтман. В октябре сооснователь Microsoft Билл Гейтс предупредил, что уже в 2027 году злоумышленники могут использовать ИИ для масштабных кибератак, вымогательства и создания сбоев на финансовых рынках. По его мнению, существующих мер защиты недостаточно, чтобы предотвратить подобные угрозы.