Medienbotschaft: KI ist keine „allwissende Freundin"

Den Welttag begeht die Kirche jeweils am Sonntag vor Pfingsten (dieses Jahr am 17. Mai; in Deutschland fällt der „Mediensonntag“ allerdings immer auf den 2. Sonntag im September), während am 24. Januar, dem Gedenktag des heiligen Franz von Sales, des Schutzpatrons der Journalisten, traditionell die Botschaft zu diesem Anlass veröffentlicht wird.

Und der Papst aus den USA setzt zum diesjährigen 60. Welttag der sozialen Kommunikationsmittel einen klaren Schwerpunkt: Die Künstliche Intelligenz und ihre Auswirkungen auf die moderne Kommunikation. Dabei warnt Leo eindringlich vor den Risiken KI-gesteuerter Inhalte, wie die Fiktion einer quasi menschlichen Beziehung durch immer menschenähnlichere Chatbots, die gewinnorientierte Steuerung von Inhalten durch Algorithmen, denen keine ethischen Erwägungen zugrundeliegen, oder die Erosion unseres kritischen Denkvermögens durch das Anzeigen einseitiger Informationen und des nur allzu menschlichen Drangs, komplexe Arbeiten dem neuen technologischen Tool zu überlassen. Angesichts dieser Entwicklung ruft der Papst zu einer gemeinschaftlichen Anstrengung aller Akteure - darunter an vorderster Front Katholiken - auf, um menschliche Beziehungen zu bewahren. „Wir müssen die Gabe der Kommunikation als die tiefste Wahrheit des Menschen bewahren, an der sich auch jede technologische Neuerung orientieren muss“, so die Mahnung des Kirchenoberhauptes. Der Welttag steht in diesem Jahr unter dem Motto: „Menschliche Stimmen und Gesichter bewahren”.

Der Mensch habe sein Angesicht und seine Stimme als unverwechselbare Merkmale von Gott erhalten, führt Papst Leo in seine Überlegungen ein. Diese müssten insofern als untrennbar vom Menschsein angesehen und – noch mehr – dringend erhalten werden, um eine persönliche und authentisch menschliche Kommunikation zu gewährleisten, so die Überlegung des Kirchenoberhauptes.

Angesicht und Wort für echte Kommunikation unabdingbar

Keinesfalls handele es sich beim Menschen um eine Spezies, die durch „biochemische Algorithmen“ vorprogrammiert sei, sondern jeder Einzelne habe eine „unersetzliche und unnachahmliche“ Berufung, die erst im Lauf des Lebens wirklich zum Vorschein komme und sich gerade in der Kommunikation mit dem anderen zeige, so der Papst.

„Die digitale Technologie läuft, wenn wir diese Schutzverantwortung vernachlässigen, vielmehr Gefahr, einige der grundlegenden Pfeiler der menschlichen Zivilisation, die wir bisweilen als selbstverständlich ansehen, radikal zu verändern”, warnt Leo in diesem Zusammenhang. Indem sie nicht nur menschliche Stimmen und Gesichter simuliere, sondern auch menschliches Wissen, Bewusstsein und Verantwortung, ja sogar Empathie und Freundschaft, seien die Auswirkungen tiefgreifend, weit über die Vermittlung von Informationen hinaus, sondern bis in die „tiefste Ebene der Kommunikation“ – nämlich die der zwischenmenschlichen Beziehungen.

„Die Herausforderung ist daher nicht technischer, sondern anthropologischer Natur“, analysiert der Papst. Die „Gesichter und Stimmen zu bewahren“ bedeute also letztlich, „uns selbst zu bewahren“, so das Kirchenoberhaupt. Die Chancen, die die digitale Technologie und die Künstliche Intelligenz böten, „mit Mut, Entschlossenheit und Unterscheidungsvermögen anzunehmen“, heiße jedoch keinesfalls, die Augen vor den damit verbundenen Risiken und Intransparenzen zu verschließen.

Es gelte also, die eigene Denkfähigkeit nicht aufzugeben, mahnt Papst Leo XIV., der schon sehr früh in seinem Pontifikat den Themenkomplex der Künstlichen Intelligenz als Schwerpunkt erkannt und klar benannt hat. Mehr als vierzig Mal hat er sich bereits in verschiedenen Formen dazu geäußert.

Algorithmen sind auf Maximierung der Verweildauer und Profit ausgelegt

Mittlerweile sei es „offensichtlich“, dass die Algorithmen – welche darauf ausgelegt seien, die Interaktion in den sozialen Medien zu maximieren und somit Profite für die Plattformen zu generieren – „schnelle Emotionen belohnen und menschliche Äußerungen, deren Verständnis und Reflexion mehr Zeit erfordern, benachteiligen“, analysiert Papst Leo weiter: „Indem sie Menschengruppen in Blasen einfacher Zustimmung und einfacher Indignation einkapseln, schwächen diese Algorithmen die Fähigkeit zum Zuhören und zum kritischen Denken und verstärken die Polarisierung in der Gesellschaft“, so Leo, in dessen Heimat USA nicht nur die Tech-Konzerne eine große Machtfülle auf sich vereinen, sondern die Spaltung in der Gesellschaft in jüngster Zeit besonders ausgeprägt zu sein scheint.

Hinzu komme die unkritische Akzeptanz der Ergebnisse von Künstlicher Intelligenz, die als „Art allwissende ,Freundin‘“ wahrgenommen werde und die scheinbar auf jede Frage und jeden Zweifel eine Antwort habe – eine Haltung, die letztlich unsere Fähigkeit untergrabe, kritisch, eigenständig und kreativ zu denken, warnt der Papst, der hier auch darauf hinweist, dass in den letzten Jahren eine immer größere Produktion von Inhalten eben durch Instrumente geleistet werde, denen Künstliche Intelligenz zugrunde liegt: Dies betreffe Texte ebenso wie Videos oder Musik, „indem sie Menschen zu bloßen passiven Konsumenten nicht selbst gedachter Gedanken, anonymer Produkte ohne Urheberschaft und ohne Liebe machen, während zugleich die Meisterwerke des menschlichen Genies in den Bereichen Musik, Kunst und Literatur auf ein bloßes Trainingsfeld für Maschinen reduziert werden“, so die bittere Bestandsaufnahme des Kirchenoberhauptes, das hier zu einer Art Gretchenfrage einlädt: „Es geht nicht so sehr um die Frage, was die Maschine leisten kann oder leisten wird, sondern darum, was wir leisten können und könnten, wenn wir an Menschlichkeit und Erkenntnis zunehmen und diese mächtigen Werkzeuge, die uns zur Verfügung stehen, klug einsetzen.“

Risiken für das eigenständige Schaffen

Schon immer sei der Mensch versucht, seine Arbeit durch die ihm zur Verfügung stehenden Mittel zu erleichtern, doch in diesem Fall bedeute dies, „die Talente zu begraben, die wie empfangen haben, um als Personen in Beziehung zu Gott und den anderen zu wachsen. Es bedeutet, unser Antlitz zu verbergen und unsere Stimme zum Schweigen zu bringen.“

Besonders eindringlich warnt der Papst vor den Pervertierungen menschlicher Kommunikation, die sich durch „virtuelle Influencer“ oder „Bot“ auftue. Der Einsatz dieser Mittel sei nicht immer transparent, doch seien sie „überraschend effektiv“ darin, Menschen zu beeinflussen, indem sie die Interaktion ständig personalisierten und auf den Einzelnen zuschnitten, bis hin zur Fiktion einer echten Beziehung. Dies sei eine Gefahr gerade für verletzliche Nutzer dieser Art von Kommunikation, unterstreicht Leo, bis hin zu einer Schädigung des sozialen, politischen und kulturellen Gefüges der Gesellschaft. Damit ließen wir uns – mehr oder weniger wissentlich – auch der Möglichkeit berauben, wahre Beziehungen mit anderen einzugehen, was auch die Fähigkeit beeinflusse, mit dem „Anderssein“ der anderen umzugehen – die wahre Voraussetzung für Beziehung und Freundschaft, erinnert Leo.

Bias, Deep Fake und Desinformation

Eine weitere Gefahr, die der Papst hier nennt, ist der durch KI geförderte so genannte Bias, also die Übermittlung einer verzerrten Wahrnehmung der Wirklichkeit, da sich die mit Künstlicher Intelligenz betriebenen Systeme urteilslos von den Daten nähren, die ihm verfügbar sind. Auf diese Weise würden Stereotypen und Vorurteile aufgesogen, die ungefiltert weitergereicht werden - so dass die Nutzer Gefahr liefen, in diesen Netzen oder Blasen gefangen zu werden, welche auch unsere Gedanken und Handlungen manipulierten, so der Papst in seiner Botschaft.

In diesem Zusammenhang verortet er auch das Problem des Deep Fake, der parallelen Realität, in der unsere Stimmen und Gesichter vereinnahmt werden so dass es in der multidimensionalen Welt, in der wir uns bewegen, immer schwieriger wird, zwischen Realität und Fiktion zu unterscheiden.

Doch auch die Tatsache, dass in von Künstlicher Intelligenz geförderten Interaktionen mit großer Selbstverständlichkeit eine falsche Tatsache als wahr dargestellt werde, listet Papst Leo in seinen Überlegungen auf. Damit werde ein immer fruchtbareres Terrain für Desinformation geschaffen, die letztlich zu Unsicherheit und Misstrauen führe.

Macht in der Hand weniger

Doch hinter dieser „enormen unsichtbaren Macht, die uns alle betrifft“, zögen nur einige wenige Firmen die Fäden, erinnert Leo mit Blick auf die „Schaffer Künstlicher Intelligenz“, die das Times Magazin 2025 zu den einflussreichsten Personen des Jahres gekürt hatte.

Dies errege tiefe Sorge, so der Papst, der hier die Gefahr verortet, dass sogar die Menschheitsgeschichte durch ein System, in dem nur wenige herrschen, neu geschrieben werden könnte – eingeschlossen die Geschichte der Kirche – ohne dass die Menschheit dies wirklich wahrnehme.

„Die Herausforderung, die uns erwartet, bedeutet nicht, die technologische Innovation zu stoppen, sondern, uns ihres ambivalenten Charakters bewusst zu sein“, unterstreicht Leo XIV, der jeden Einzelnen aufruft, seine „Stimme zur Verteidigung der menschlichen Person zu erheben, damit diese Mittel von uns wirklich als Verbündete integriert werden können.“ Ein solcher Einsatz müsse durch alle getragen werden und auf den Säulen von Verantwortung, Zusammenarbeit und Bildung ruhen: „Keiner kann sich angesichts der Zukunft, die wir aufbauen, der eigenen Verantwortung entziehen“, so der Appell des Kirchenoberhauptes.

Verantwortung, Zusammenarbeit, Bildung - eine Allianz schaffen

Verantwortung sei dabei nicht nur von den Online-Plattformen und Entwicklern gefragt, sondern auch von den Gesetzgebern und überstaatlichen Regulierungsbehörden ebenso wie den einzelnen Kommunikationsunternehmen. So legt der Papst den Betreibern der Plattformen, die mit Algorithmen die Verweildauer maximieren wollen, ans Herz, nicht nur den Profit, sondern auch das Gemeinwohl und die Zukunft ihrer eigenen Kinder im Blick zu haben. Den Entwicklern schreibt er Transparenz ins Stammbuch, um einen informierten Nutzen ihrer Produkte zu ermöglichen. Die Gesetzgeber und Regulierungsbehörden müssten über die Wahrung der Menschenwürde auch in diesem spezifischen Bereich wachen, so Leo XIV. mit besonderem Blick auf Chatbots, aber auch mit Blick auf die Verbreitung irreführender und sogar falscher Inhalte.

Medienunternehmen sollten hingegen nicht zulassen, dass das Buhlen um einige Sekunden mehr Verweildauer, das ausdrückliche Ziel der Algorithmen, ihre Berichterstattung bestimme und somit ihre Professionalität und beruflichen Werte untergrabe. Die mit Hilfe von KI erstellten Inhalte müssen als solche gekennzeichnet werden und die Urheberrechte gewahrt bleiben. Dieser öffentliche Dienst müsse auf der Transparenz von Quellen und der Einbeziehung von Betroffenen basieren, mahnt der Papst, der hier auch einen hohen Qualitätsstandard einfordert.

Zusammenarbeit sei bei einem sektorenübergreifenden Thema wie der digitalen Innovation und den mit Künstlicher Intelligenz verbundenen Herausforderungen unerlässlich, so Papst Leo weiter, der in diesem Zusammenhang zur Schaffung von „Schutzmechanismen“ und der „Förderung einer mündigen und verantwortungsbewussten digitalisierten Gesellschaft“ aufruft. Dabei müssten alle Beteiligten, darunter auch Künstler, Journalisten und Pädagogen, einbezogen werden.

In diesem Zusammenhang brauche es aber auch eine adäquate Bildung, um kritisch zu denken und zu verstehen, ob Informationen auf verlässlichen Quellen beruhen – eine besonders nötige Kompetenz angesichts der personalisierten und nicht verifizierten Informationen, die uns täglich erreichen. Zu hinterfragen gelte es auch, wieso gerade diese Informationen gerade uns erreichten, so die Aufforderung des Kirchenoberhauptes angesichts der Blasen, in denen wir uns dank der durch Algorithmen gesteuerten Nachrichten mehr oder weniger bewusst bewegen.

Neben einer Förderung der mittlerweile weitflächig gelehrten Medienkompetenz sei es deshalb nützlich, auch Kompetenzen im Bereich der Künstlichen Intelligenz zu stärken: „Es ist wichtig, sich selbst und andere zu einem bewussten und verantwortungsvollen Umgang mit der KI zu erziehen und in diesem Zusammenhang das eigene Bild (Foto und Audio), das eigene Angesicht und die eigene Stimme zu bewahren, um schädliche Anwendungen wie digitalen Betrug, Cybermobbing oder Deepfakes zu verhindern, die die Privatsphäre und Würde der Menschen verletzen“, so die Schlussfolgerung des Papstes.

Ebenso wie die industrielle Revolution eine „grundlegende Alphabetisierung” erforderte, um den Menschen zu ermöglichen, auf die Neuerung zu reagieren, so erfordere auch die digitale Revolution eine „digitale Alphabetisierung", die gemeinsam mit einer humanistischen und kulturellen Bildung geleistet werden müsse, um zu verstehen, „wie Algorithmen unsere Wahrnehmung der Realität formen, wie Vorurteile der KI funktionieren, welche Mechanismen das Auftauchen bestimmter Inhalte in unseren Informationsströmen (Feeds) bestimmen und welche Voraussetzungen und wirtschaftlichen Modelle der KI-Ökonomie bestehen und wie sie sich verändern können“, so der Papst, der seinen Appell folgend zusammenfasst:

„Gesicht und Stimme müssen wieder die Person zum Ausdruck bringen. Wir müssen die Gabe der Kommunikation als die tiefste Wahrheit des Menschen bewahren, an der sich auch jede technologische Neuerung orientieren muss."

Er danke all jenen, die mit den Kommunikationsmitteln für das Gemeinwohl arbeiteten, so der Papst abschließend, der erst vor wenigen Tagen eine Botschaft an katholische Medienvertreter geschrieben hatte, in der er dazu einlud, inmitten der „Welle der Künstlichen Intelligenz“ die Menschlichkeit und die Nähe zum Nächsten nicht zu verlieren. Ein ausführliches Grundsatzdokument zum Verhältnis von Künstlicher Intelligenz und Menschlicher Intelligenz hatte der Vatikan im Januar 2025 mit Antiqua et nova veröffentlicht. 

(vatican news - cs)