Использование искусственного интеллекта может привести к интеллектуальной деградации людей, если они не будут относиться к этому с должной критичностью. Такое мнение выразил митрополит Симферопольский и Крымский Тихон (Шевкунов) на Х конференции СберУниверситета про обучение и развитие «Больше чем обучение». Об этом сообщает РБК.
«Кто-то из тех, кто его создает, тот кто правильно им пользуется, он действительно возрастает: и интеллектуально и в своем опыте. А вот те, которые не знают, что такое гигиена мысли — вот тут огромная опасность, — предупредил Тихон. — Мы получим в ближайшее время — я это вижу уже сейчас — интеллектуальных дебилов. Люди, которые в совершенстве владеют искусственным интеллектом, всячески им пользуются, и сами при этом стремительно, стремительно деградируют».
Митрополит привёл в пример журналиста, которому нейросеть Claude может «гораздо лучше и интереснее набросать 20 вариантов». По его мнению, через несколько месяцев «таких упражнений» это приведёт такого журналиста «к самым печальным последствиям». Тихон считает, что необходимо создавать фильмы о том, как ИИ «завоевывает человека талантливого, хорошего», как человек паразитирует на искусственном интеллекте, и чем это заканчивается. «Устрашить. Вот действительно устрашить тем будущим, которое в данном случае мне представляется печальной реальностью», — заключил он.
Комментируя опасения, что ИИ может выйти из-под контроля человека и установить власть над ним, митрополит Симферопольский и Крымский допустил такую возможность, если ИИ окажется в руках «мизантропов», которые ставят себе такую цель. «В чем опасность большая, чем любое другое орудие и оружие? Атомную бомбу имеют несколько стран. А вот искусственный интеллект в ближайшее время будет в распоряжении огромного числа людей, — добавил Тихон. — Причем, если неправильно скажу, поправьте, но именно боевой искусственный интеллект — искусственный интеллект, который может причинять боль и воздействовать на целое общество». По его мнению, так вполне может случиться, если «боевой» ИИ не ограничивать по примеру ядерного оружия.
Ранее учёные из комиссии журнала Lancet по глобальным угрозам здоровью XXI века пришли к выводу, что человечество может вымереть к 2100 году из-за злонамеренного использования ИИ, включая биологическое оружие, и ядерного конфликта. Глава Anthropic, которая разрабатывает большую языковую модель Claude, Дарио Амодеи ранее предложил замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним. Он объяснил это случаем с разработками компании OpenAI, когда её ИИ-агенты вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить. Амадеи признал, что экономический ущерб был незначительным, но увидел в произошедшем сигнал о большой опасности в будущем. Илон Маск, владелец компании xAI, разработавшей модель Grok, согласился с Амадеи. Глава OpenAI Сэм Альтман также выразил солидарность с главой Anthropic.