Разетти: мы стоим на распутье в вопросах ИИ
Vatican News
Искусственный интеллект (ИИ) – это, «возможно, самая грандиозная культурная революция за всю историю Homo sapiens» и даже «антропологический переход», поскольку он радикально меняет способ, которым человек взаимодействует с реальностью. В этом убеждён Марио Разетти, почётный профессор теоретической физики Туринского политехнического университета. В интервью Алессандро Джизотти для ватиканских СМИ (полный текст опубликован в L’Osservatore Romano), он акцентирует внимание на крупных вызовах, которые ИИ бросает человечеству и которые требуют немедленного осознания и решительных действий. Эта насущная необходимость неоднократно подчёркивалась и Папой Львом XIV с самого начала его понтификата.
Одним из наиболее тревожных аспектов для Разетти является скорость развития ИИ, которая носит «двойной экспоненциальный» характер; его рост значительно превосходит тот, что наблюдался во времена Промышленной революции, и он приводит «к режимам, в которых человеческие рефлексы уже не позволяют контролировать вообще ничего». Преподававший в своё время в самых авторитетных университетах мира – от Оксфорда до Принстона, – Разетти считает, что человечество сейчас стоит на распутье. «Мы обязаны превратить ИИ из практики в науку, ибо лишь тогда сможем им управлять, – утверждает итальянский учёный. – Все слабые места искусственного интеллекта коренятся в этике. Нужны люди доброй воли, заботящиеся о будущем рода человеческого, а не о геополитике, которая, как мы видим сейчас, движима эгоизмом, стремлением к господству и равнодушием».
ИИ – это инструмент колоссальной мощи, основанный на «грубой силе», то есть на непрерывном увеличении вычислительной мощности. Как и любой инструмент, подчёркивает Разетти, он может быть использован как во благо, так и во вред.
В интервью физик подробно останавливается на теме экологической устойчивости, отмечая, что ИИ рискует «разбиться об энергетический вопрос»: потребление электроэнергии и воды достигает колоссальных масштабов, о чём свидетельствуют примеры дата-центров Google в Ирландии и инвестиции Microsoft в бывшую атомную электростанцию на острове Три-Майл-Айленд. Для работы дата-центров, подчёркивает Разетти, нужна энергия и огромнейшее количество воды. «Эти компьютеры потребляют колоссальные объёмы воды для охлаждения машин. Можно возразить: “Но ведь её не выливают”. Да, но они её используют, а затем возвращают в окружающую среду, нагрев на три градуса выше исходной температуры, – и это оказывает значительное воздействие на экосистему».
Ещё один ключевой вопрос, затронутый в беседе, – проблема истины. По мнению Разетти, «самая большая трудность, с какой сейчас сталкивается искусственный интеллект, – это умение отличать истинное содержание от ложного». ИИ создаёт представления о реальности, но не понимает её: «Искусственный интеллект представляет, но не осознаёт и даже не интерпретирует, он лишь представляет». Поэтому учёный уподобляет ситуацию человечества платоновскому мифу о пещере, где мы видим лишь тени от подлинной реальности.
Разетти подчеркнул превосходство человека над машиной: ИИ лишён творческих способностей, не способен постичь глубокий смысл переживаний и не умеет самостоятельно исправлять свои «галлюцинации», возникающие в процессе глубокого обучения (deep learning). Как бы ни поражало наше воображение то, что было достигнуто в области вычислительных мощностей, человек остаётся единственным, кто способен понимать и делать выбор. Именно поэтому, заключает Разетти, несмотря на ошеломляющий прогресс машин, использующих ИИ, «мы, люди, и каждый из нас намного могущественнее всех машин».
