Vatikan-Konferenz zu KI: Vorsicht und Optimismus
„Preserving Human Voices and Faces“ (Menschliche Stimmen und Gesichter bewahren) lautete der Titel der Tagung, die das Dikasterium für Kommunikation am 21. Mai in Rom organisierte. Im Fokus standen die Auswirkungen Künstlicher Intelligenz (KI) auf Medien, Gesellschaft, Beziehungen und soziale Ungleichheit. Inspiriert von der Botschaft von Papst Leo XIV. zum jüngsten Welttag der sozialen Kommunikationsmittel sowie der bevorstehenden Enzyklika Magnifica humanitas brachte die Veranstaltung Wissenschaftler, Journalisten, Technologieexperten und politische Entscheidungsträger von Weltrang zusammen.
Kritisches Denken schützen
Ein zentrales Thema war die Sorge, dass KI die menschliche Handlungsfähigkeit schwächen könnte, wenn sich Menschen beim Denken, Entscheiden und Kommunizieren zu sehr auf Algorithmen verlassen. Übereinstimmend betonten die Redner, dass Personen niemals auf reine Daten, Statistiken oder digitale Profile reduziert werden dürften – eine Tendenz, die in den Chefetagen mancher Technologiekonzerne jedoch vorherrschend sei. Menschlichkeit zu bewahren bedeute vielmehr, echte Stimmen, authentische Beziehungen und kritisches Denken in einer Zeit zu schützen, in der die Grenzen zwischen Realität und Simulation zunehmend verschwimmen.
Besonderes Augenmerk wurde der Wirkung von KI auf den Journalismus zuteil. Experten warnten vor Desinformation, Deepfakes und manipulativen Inhalten – wie dem sogenannten „Rage Baiting“, das Nutzer mit emotional aufwühlenden Beiträgen ködern soll –, die das Vertrauen in Nachrichten und Institutionen untergraben. Gleichzeitig wurde betont, dass KI auch Chancen bietet, etwa indem sie Redaktionen bei aufwendigen Recherchen unterstützt und Medien dabei hilft, verlässliche Informationen effizienter bereitzustellen.
Ein weiterer Schwerpunkt war die soziale Ungleichheit. Die Teilnehmer erklärten, dass KI bestehende strukturelle Ungerechtigkeiten oft noch verstärkt. Marginalisierte Gemeinschaften werden ausgeschlossen, Minderheitensprachen und -kulturen sind unterrepräsentiert, während sich Macht und Einfluss auf wenige Länder und Tech-Konzerne konzentrieren. Es gehe nicht nur darum, wer Zugang zu KI habe, sondern vor allem darum, wer ihre Entwicklung aktiv gestalten könne. Zudem wurden Risiken wie algorithmische Diskriminierung, Massenüberwachung, die Ausbeutung von Künstlern oder journalistischen Inhalten sowie militärische Anwendungen automatisierter Systeme thematisiert.
Im Mittelpunkt der Konferenz standen drei Lösungswege: Verantwortung, Zusammenarbeit und Bildung. Die Redner forderten ethische Leitplanken bei der Entwicklung von KI, eine stärkere internationale Kooperation zwischen Regierungen, Unternehmen und der Zivilgesellschaft sowie ein Bildungssystem, das kritisches Denken, Empathie und Medienkompetenz fördert.
Marijana Grbeša Zenzerović lehrt an der Universität Zagreb und ist stellvertretende Vorsitzende des Expertenkomitees für Online-Sicherheit beim Europarat. Am Rande der Konferenz fand sie im Interview deutliche Worte:
„Künstliche Intelligenz ist im Grunde wie eine Wolke, die entweder Regen bringen oder die Sonne für immer verdecken kann. Der Aufruf des Heiligen Stuhls und des Papstes, unsere Gesichter und Stimmen zu bewahren, ist von enormer Bedeutung. Wir sehen immer mehr synthetische Inhalte in unserem täglichen Medienkonsum. Es ist heute oft kaum noch zu sagen, was echt ist und was nicht. Unsere Realität ist in gewisser Weise bedroht.“
In einer Welt, in der KI menschliche Stimmen, Gesichter und Beziehungen imitieren kann, müsse der Journalismus konsequent für Authentizität einstehen – selbst wenn einige CEOs großer Medienunternehmen inzwischen behaupteten, diese sei „letztlich replizierbar.“
„Genau darin liegt die Gefahr, denn es geht um unser einzigartiges Selbst. Diese Einzigartigkeit ist bedroht, weil sie kopiert werden kann. Zudem gibt es die Tendenz, Maschinen als eigenständige Individuen oder Persönlichkeiten zu betrachten. Das ist eine beispiellose Herausforderung für unsere Zivilisation.“
Dass der Papst bald ein eigenes Dokument veröffentlichen wird, das sich mit der Bewahrung des Menschen im KI-Zeitalter beschäftigt, bewertet die kroatische Professorin als Meilenstein:
„Der Papst ist eine weltweite moralische Autorität – nicht nur für gläubige Menschen. Wenn er ein so folgenschweres Thema auf die Agenda setzt, dann wird das weltweit gehört und ernst genommen. Er wird in dieser Frage zu einer echten Stimme für die Menschen.“
Das Dilemma: Langsame Institutionen gegen rasante Entwickler
Technologie verändere die Demokratie derzeit schneller, als Regulierungen darauf reagieren könnten, gab Grbeša Zenzerović zu bedenken:
„Institutionen sind sehr langsam, Technologieentwickler dagegen extrem schnell. Es dauert Monate oder Jahre, um rechtliche Antworten auf neue Entwicklungen zu finden. Aber es dauert oft nur Stunden, um Algorithmen zu verändern oder die Architektur eines Systems anzupassen, das unser Leben massiv beeinflusst.“
Algorithmen schwächten bereits jetzt das öffentliche Vertrauen enorm. Vielen Produzenten von Inhalten gehe es im Buhlen um Klickzahlen gar nicht mehr um Wahrhaftigkeit:
„Die eigentliche Gefahr von Desinformation ist nicht nur, dass Menschen Lügen glauben. Sie besteht darin, dass Menschen anfangen, allem zu misstrauen. Wir sind bereits an dem Punkt angelangt, an dem viele sagen: ‚Man kann niemandem mehr vertrauen.‘“
Tristan Harris: Das gnadenlose Wettrüsten im Silicon Valley
Ein bekannter Skeptiker und Vordenker in Sachen KI ist Tristan Harris, Mitbegründer des Center for Humane Technology, der unter anderem durch den Vortrag „Das KI-Dilemma“ bekannt wurde. Gegenüber Radio Vatikan wies er auf die immensen Verwerfungen durch generative KI hin:
„Generative KI ermöglicht es, sehr viele Arbeitsplätze zu ersetzen – oft ohne jeden Plan für den Übergang der Betroffenen. Sie führt zu einem Zerfall von Wahrheit und Vertrauen in demokratischen Gesellschaften, schafft neue Möglichkeiten für Betrug und erleichtert den Diebstahl geistigen Eigentums. Schon das Abgreifen von nur drei Sekunden einer menschlichen Stimme reicht dafür aus.“
Das eigentliche Kernproblem verortet Harris jedoch in der Systemdynamik des Silicon Valley:
„Dahinter steht ein blindes Wettrüsten. Die Unternehmen glauben: Wenn ich nicht als Erster die ,Künstliche Allgemeine Intelligenz' (AGI) erreiche, verliere ich gegen ein anderes Unternehmen oder ein anderes Land. Alle Kollateralschäden werden mit dieser Logik gerechtfertigt.“
Dies gelte für drohende Massenarbeitslosigkeit ebenso wie für den Missbrauch biometrischer Daten:
„Das mag schlimm erscheinen. Aber in dieser Denkweise gilt das als weniger schlimm, als dauerhaft gegen China zu verlieren, oder dass China dauerhaft gegen die Vereinigten Staaten verliert, oder dass Sam Altman dauerhaft gegen Elon Musk verliert. Ich glaube, das Entscheidende ist, dass die Menschen im Silicon Valley – aus dem ich selbst komme - diesen Wettlauf als existenziell betrachten. Sie glauben, sie müssen als Erste ans Ziel kommen. Und dadurch werden alle negativen Folgen, die entstehen können, durch diese Dynamik eines technologischen Wettrüstens gerechtfertigt.“
Eli Pariser: Ein politisches Projekt für das Gemeinwohl
„Was wir mit KI tun müssen, ist, eine KI zu schaffen, die uns wieder einander zuwendet, anstatt menschliche Beziehungen durch Beziehungen mit Chatbots zu ersetzen“, mahnt nach seinem Vortrag hingegen Eli Pariser, der US-amerikanische Aktivist, der den Begriff „Filterblase“ geprägt hat. Dass dies eine knifflige Angelegenheit sei, liege allerdings auf der Hand: „Denn die Art und Weise, wie KI-Unternehmen strukturiert sind, ist darauf ausgelegt, ein Maximum an Aufmerksamkeit und Engagement von Menschen zu erzeugen. Aber solange das so bleibt, denke ich, dass es sich eher um eine parasitäre Beziehung handeln wird, anstatt um eine, die menschliche Verbundenheit und Würde stärkt.“
Wirtschaftliche Entscheidungen hätten bei technologischen Entwicklungen – besonders bei KI, aber auch bei sozialen Medien – oft Vorrang vor menschlichen Anliegen, hob der Experte in seinem Vortrag hervor. Doch letztlich gehe es wohl gar nicht primär darum, die Führungskräfte der Unternehmen davon zu überzeugen, eine sozial verträglichere Richtung einzuschlagen:
„Denn letztlich sind es Unternehmen, die wirtschaftliche Entscheidungen treffen. Was wir deshalb brauchen, ist eine politische Allianz und ein Maß an Regulierung beziehungsweise Governance, das den Wettbewerb dieser Unternehmen in Richtung Gemeinwohl lenkt. Und das ist ein größeres Projekt. Es ist ein politisches Projekt, aber ich sehe keinen anderen Weg daran vorbei. Dieses Problem wird nicht allein durch tugendhaftes Handeln einzelner Personen gelöst werden. Es wird dadurch gelöst, dass wir alle gemeinsam entscheiden, welche Art von Gesellschaft wir wollen – und unsere Stimmen bei Wahlen und unsere gesellschaftliche Macht nutzen, um dies Wirklichkeit werden zu lassen.“
Religiöse Führer und spirituelle Traditionen beschäftigten sich seit Jahrhunderten mit der Frage, was es bedeutet, Mensch zu sein – eine Frage, die KI gerade heute in neuer Intensität aufwerfe, so Pariser:
„Deshalb gibt es in Glaubensgemeinschaften und bei religiösen Führungspersönlichkeiten einen enormen Schatz an Weisheit und Klarheit zu diesem Thema. Und ehrlich gesagt: Menschen im Silicon Valley und an anderen Orten sollten diesen Stimmen aufmerksam zuhören.“
Den Text verfasste Christine Seuss auf Grundlage der Konferenz sowie von Interviews von Fabio Colagrande, Linda Bordoni, Edoardo Giribaldi und Isabella H. de Carvalho.
(vatican news - cs)
Danke, dass Sie diesen Artikel gelesen haben. Wenn Sie auf dem Laufenden bleiben wollen, können Sie hier unseren Newsletter bestellen.
