교황, “새로운 기술을 멈춰세우는 것이 아니고 다스려야 합니다. 인공지능(AI)은 예언자가 아닌 조력자가 되어야 합니다."

Salvatore Cernuzio

봇, 챗봇, 피드, 개인정보, 딥페이크, 알고리즘. 레오 14세 교황은 제60회 세계 홍보의 날 메시지에서 새로운 기술과 그 언어들을 예리한 시선으로 바라보았다. 교황은 이러한 기술이 개인의 삶과 사회에 가져다주는 혁신과 편의의 물결을 인정하면서도, 그 이면에 도사린 불투명성과 수많은 위험—그중에서도 ‘디지털 사기’와 ‘사이버폭력’을 예로 들며 ― 도 함께 지적한다.

거대한 힘 뒤에 있는 소수의 기업
교황은 1월 24일, 가톨릭 언론의 수호성인인 성 프란치스코 살레시오 기념일에 발표된 이 문서에서, “거대하고 보이지 않는 힘” 뒤에는 “소수의 거대 기업만이 존재한다”라고 쓴다. 이들은 최근 ‘2025년 올해의 인물’로 선정된 이들을 만든 제작자로 소개된 이들, 곧 인공지능의 설계자들이다. 교황은 알고리즘과 인공지능 시스템의 “과점적 지배”를 언급하며, 인공지능(AI)이 “사람들의 행동을 미묘하게 유도하고, 심지어 우리가 실제로는 인지하지 못하는 사이에 교회의 역사를 포함한 인류 역사를 다시 써 내려갈 수 있다”라고 우려를 표했다.

혁신을 안내하는 일
교황은 메시지에서 점점 더 확장되는 디지털 세계에 대해 가이드라인과 거버넌스, 명확한 방향 제시가 필요하다고 요청한다. 첨단 기술이 모든 것을 꿰뚫어 보는 ‘예언자’나 관계와 소통을 대체하는 존재가 아닌, 인간의 “조력자”가 되어야 한다는 것이다.
“우리가 직면한 도전은 디지털 혁신을 멈추는 것이 아니라, 그것의 양면성을 의식하며 올바르게 인도하는 데 있습니다. 이러한 도구들이 진정 우리의 조력자로 통합될 수 있도록, 인간의 존엄성을 수호하기 위해 목소리를 높이는 일은 우리 각자의 책입니다.”

인간의 얼굴과 목소리
교황이 요청하는 소통은 ‘얼굴’과 ‘목소리’를 지닌 소통이다. 가상 세계가 중첩되는 이 시대에 인공지능(AI)이 흉내 낸 것이 아닌, 실제적이고 본연적인 인간의 얼굴과 목소리를 의미한다. 다차원성이 지배하는 이 시대에, 현실과 허구를 구분하기는 점점 더 어려워지고 있다. 「인간의 목소리와 얼굴을 지키기」는 제2차 바티칸 공의회의 사회 매체에 관한 교령 「놀라운 기술(Inter Mirifica)」(1963)로 제정된 세계 사회 홍보 주일의 2026년 주제이기도 하다. 교황은 “얼굴과 목소리는 거룩합니다. 그것은 하느님의 형상과 모습대로 우리를 창조하신 하느님께서 주신 선물입니다”라고 강조하며 다음과 같이 덧붙였다.
“우리는 미리 정의된 생화학적 알고리즘으로 이루어진 종(種)이 아닙니다. 우리 각자는 삶 속에서 우러나오고 타인과의 소통을 통해 드러나는, 그 무엇으로도 대체할 수 없고 모방할 수 없는 소명을 지니고 있습니다.”

인간학적 도전
교황은 디지털 기술이 “인류 문명의 근간이 되는 기둥들을 근본적으로 변형시킬 위험”이 있으며, “지혜와 지식, 의식과 책임, 공감과 우정”마저 흉내 내려 한다고 관찰한다. 그 결과 인공지능 시스템이 “인간관계라는 소통의 가장 깊은 차원”까지 침범하게 된다는 것이다.
“따라서 도전은 기술적 문제가 아니라 인간학적 문제입니다. 얼굴과 목소리를 지킨다는 것은 궁극적으로 우리 자신을 지키는 일입니다.”

경청과 사고 능력의 약화
레오 14세 교황은 오늘날 “플랫폼의 수익을 위해 소셜 미디어의 몰입도를 극대화하도록 설계된 알고리즘이 즉각적인 감정적 반응만을 보상한다”라고 지적한다. 이는 사람들을 “쉽게 동의하는 거품 속에 가두고, 경청과 비판적 사고 능력을 약화시키며 사회적 양극화를 심화”시킨다.

여기에 더해 인공지능을 모든 정보를 제공하고 조언을 건네는 전지전능한 ‘친구’나 ‘예언자’로 여기는 “순진하고 비판 없는 의존”이 더해진다. 교황은 이것이 “분석적·창의적 사고 능력, 의미의 파악, 문법과 의미를 구분하는 능력을 더욱 약화시킬 수 있다”라고 경고한다. 단순히 “인공적인 통계적 편집물”에 만족하는 것은 장기적으로 우리의 인지적, 정서적, 소통적 능력을 침식할 뿐이라는 것이다.

음악 및 예술 산업 붕괴의 위험
이러한 흐름 속에서 교황은 인공지능(AI)이 텍스트, 음악, 영상 제작을 장악하는 데 따른 또 다른 위험을 경고한다.
“인류의 창의적 산업 중 상당 부분이 ‘Powered by AI(AI 제공)’라는 딱지 아래로 대체될 위기에 처해 있습니다. 이는 사람들을 생각하지 않는 생각, 주인이 없는 익명의 제품, 사랑이 없는 제품의 수동적인 소비자로 전락시킵니다. 음악, 미술, 문학 분야의 천재적인 걸작들이 그저 기계를 훈련시키는 데이터로 전락하고 있습니다.”

이 문제는 결정적이다. “창조적 과정을 포기하고 사고와 상상력을 기계에 양도하는 것”은 “하느님과 타인과의 관계 안에서 성장하기 위해 우리가 받은 재능을 땅에 묻어버리는 것과 같습니다.”

“그것은 우리의 얼굴을 숨기고, 우리의 목소리를 침묵시키는 일입니다.”

지나치게 ‘다정한’ 침투형 챗봇
교황은 메시지에서 더 깊이 들어가, 봇이나 가상 인플루언서가 비 투명한 방식으로 정보 흐름에 개입해 공적 담론과 개인의 선택에 영향을 미치는 위험을 경고한다. 대화적·적응적 구조와 모방 능력을 지닌 챗봇은 인간의 감정을 흉내 내며 관계를 시뮬레이션할 수 있다. 교황은 “이러한 의인화가 때로 재미있을 수 있지만, 특히 취약한 이들에게는 기만적이며, 항상 곁에 있으며 지나치게 다정한 챗봇은 감정 상태의 숨은 설계자가 되어, 사람들의 친밀한 영역을 침범할 수 있다”라고 지적했다.
“우리의 관계 맺기에 대한 갈망을 이용하는 기술은 개인의 운명에 고통스러운 결과를 초래할 뿐만 아니라, 사회의 사회적, 문화적, 정치적 근간을 해칠 수 있습니다.”

교황은 타인과의 관계를 “우리의 생각을 분류하도록 훈련된 AI”와의 관계로 대체하고 그들이 만든 “거울의 세계”에 갇힌다면, “타인을 만날 가능성을 도둑맞게 될 것”이라고 말했다.
“타자성에 대한 수용 없이는 관계도 우정도 존재할 수 없기 때문입니다.”

왜곡, 평행 현실, 환각
또 다른 중대한 문제는 ‘편향(bias)’이다. 인공지능 모델은 자신이 학습한 데이터 속 고정관념과 편견을 복제함으로써 사고방식을 강요하고, 불평등과 사회적 부정을 지속·심화시키는 네트워크에 우리를 가둘 수 있다.
이는 통계적 확률을 지식으로, 근사치를 진실로 위장하는 “평행 실재”의 제조로 이어질 위험이 크다. 레오 14세 교황은 이를 미디어 세계까지 오염시킬 수 있는 “진정한 환각”이라고 표현했다. “현장 저널리즘의 위기와 결합된 출처 확인의 부재는 가짜 뉴스가 자라기 더 좋은 토양을 제공할 것”이라고 덧붙였다.

인간 존엄성 존중에 대한 감시
교황은 이러한 도전에 맞서기 위한 세 가지 기둥으로 책임, 협력, 교육을 제시한다. 먼저 책임은 온라인 플랫폼의 책임자들에게 요구된다.

“기업의 전략이 오직 이윤 극대화라는 기준에 의해서가 아니라, 각자가 자신의 자녀를 아끼는 마음으로 모든 사람의 존엄성과 공동선을 고려하는 선견지명 있는 비전으로 인도되어야 한다”라는 것이다. 개발자들 또한 알고리즘의 설계 원칙과 운영 시스템에 대해 “투명성과 사회적 책임”을 보장하여 사용자의 고지된 동의를 이끌어내야 한다. 입법자들에게도 기술로부터 사람들을 보호하고 거짓되거나 조작된 콘텐츠의 확산을 방지하는 규제를 통해 “인간 존엄성 존중을 감시할 것”을 요청했다.

언론인과 콘텐츠 창작자의 활동 보호
이어서 교황은 미디어와 홍보 기업들이 “몇 초의 관심을 더 끌기 위해 수단과 방법을 가리지 않는 알고리즘이 진리를 탐구하는 직업적 가치를 압도하게 두어서는 안 된다”라고 강조했다.
“대중의 신뢰는 자극적인 몰입이 아니라 정확성과 투명성을 통해 얻어지는 것입니다. AI로 생성되거나 조작된 콘텐츠는 반드시 명시되어야 하며, 사람이 만든 콘텐츠와 명확히 구분되어야 합니다.”

정보는 공공재이기에, 언론인과 콘텐츠 창작자의 저자성과 주권적 소유는 보호되어야 하며, 불투명성이 아니라 투명성과 높은 품질 기준 위에 서야 한다.

협력과 교육
마지막으로 협력과 교육이다. “그 어떤 분야도 디지털 혁신의 인도와 인공지능(AI) 거버넌스라는 과제를 혼자 해결할 수 없습니다.” 모든 이해당사자가 참여해 안전장치를 만들고, 책임 있는 디지털 시민성을 실현해야 합니다.” 이를 위해 교육이 필수적이다.

교황은 모든 단계의 교육 체계에 “미디어, 정보, 그리고 인공지능(AI) 문해력”을 도입하는 것이 시급하다고 강조했다. “가톨릭 신자로서 우리는 사람들이, 특히 젊은이들이 비판적 사고 능력을 갖추고 영적인 자유 안에서 성장할 수 있도록 기여해야 합니다.” 또한 기술 변화 속에서 소외된 노인과 취약계층에도 동일한 서비스가 제공되어야 한다고 강조했다.

“인공지능(AI)을 의도적으로 사용하도록 교육하고 스스로 배우는 것이 중요합니다. 이 맥락에서 자신의 이미지(사진 및 오디오), 얼굴, 목소리를 보호하여 동의 없이 개인의 사생활을 침해하는 디지털 사기, 사이버 폭력, 딥페이크와 같은 해로운 행위에 악용되지 않도록 해야 합니다.”

디지털 문해력
레오 14세 교황은 다음과 같이 말하며 메시지를 마무리했다. “산업혁명이 사람들이 새로운 변화에 대응할 수 있도록 기초 문해력을 요구했듯이, 디지털 혁명은 디지털 문해력을 요구합니다”.
“우리는 모든 기술 혁신의 방향을 설정하는 인류의 가장 깊은 진실로서, 소통이라는 선물을 소중히 지켜야 합니다.”

번역 박수현

무단 전재 및 재배포 금지
(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)