Нобелевский лауреат Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта, заявил в интервью The Guardian, что уже в 2026 г. или в 2027 г. нейросети могут вызвать чрезвычайное происшествие глобального масштаба. По его словам, это может быть, например, серьезный сбой в работе энергетических или финансовых систем. Об этом сообщает CNews.

Хинтону 78 лет, исследованиями ИИ-технологий он занимается около 44 лет. Еще в 1970 г. ученый заложил основы концепции нейронных сетей, а в 2023 г. покинул Google, чтобы свободно высказываться о потенциальных ИТ-угрозах ИИ-технологии. Его комментарии прозвучали перед премьерным показом документального фильма об ИИ, в котором приняли участие сам Хинтон и его бывший коллега Демис Хассабис.

«Возможно, нам было бы лучше вообще никогда не создавать ИИ», — приводит его слова The Guardian.

По оценке Хинтона, уже до 2040 г. — а и раньше — станет понятно, сможет ли общество взять под контроль риски, связанные с ИИ, и прийти к «радикальному изобилию». Альтернативный сценарий предполагает резкий рост имущественного неравенства, культурные кризисы и массовую безработицу, как информировал CNews.

Хинтон допустил, что уже в конце 2026 г. или в 2027 г. может произойти серьезный инцидент. В качестве примеров он назвал кибератаку ИИ на энергосистему с последующим масштабным блэкаутом или сбой, способный на неделю парализовать финансовую систему, писал CNews. По силе «тревожного звонка» такое событие он сравнил с аварией на Чернобыльской атомной электростанции.

Хинтон резко отозвался о руководителях ведущих ИИ-компаний, которые, по его мнению, прежде всего стремятся увеличить долю рынка и выпускают все более мощные ИИ-модели. Он заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману. Ученый в адрес Альтмана, Марка Цукерберга и Илона Маска заметил: «Они понимают риски, но им наплевать — им нужны деньги».

В качестве меры защиты Хинтон предлагает ввести обязательное независимое тестирование передовых ИИ-моделей перед их выпуском — по аналогии с процедурой одобрения лекарств. «Нужно что-то вроде американского Управления по контролю за качеством пищевых продуктов и лекарственных препаратов, только для нейронных сетей: ИИ-компании должны доказать независимому органу, что ИИ-модель приносит больше пользы, чем вреда», — подчеркнул он, напомнив о трагедии с талидомидом.

Талидомид — лекарство, разработанное немецкой компанией Chemie Grünenthal в 1954 г. Его продавали как безопасное снотворное и средство от тошноты у беременных. Препарат считался настолько безвредным, что во многих странах отпускался без рецепта. Проблема обнаружилась слишком поздно: если женщина принимала талидомид на ранних сроках беременности (примерно с 34 по 50 день), у ребенка развивались тяжелые врожденные дефекты — чаще всего отсутствие или сильное укорочение конечностей (фокомелия, «тюленьи ласты»), а также пороки внутренних органов, глаз, ушей. По разным оценкам, в мире родилось до 12–20 тыс. детей с такими уродствами. Около половины из них умерли в младенчестве. Препарат продавался более чем в 40 странах.

При этом Джеффри Хинтон сохраняет осторожный оптимизм. «Мое чутье подсказывает, что мы все еще контролируем ситуацию», — заключил Хинтон.