Papst Leo XIV. bricht eine Lanze für Qualitätsjournalismus und Bildung zum Schutz gegen die vermeintlich allwissende Künstliche Intelligenz (KI). "Systeme, die statistische Wahrscheinlichkeiten als Wissen ausgeben, bieten uns in Wirklichkeit bestenfalls Annäherungen an die Wahrheit, die mitunter regelrechte 'Halluzinationen' sind", schreibt Leo in seiner am Samstag veröffentlichten Botschaft zum Tag der sozialen Kommunikationsmittel.
Medien- und Kommunikationsunternehmen dürften nicht zulassen, dass Algorithmen, die um jeden Preis um ein paar Sekunden mehr Aufmerksamkeit kämpften, journalistische Werte wie die Suche nach Wahrheit verdrängten, so der Papst.
Nährboden für Misstrauen
Als Probleme nennt er eine fehlende Überprüfung von Quellen und Informationen auch durch die Krise des Journalismus vor Ort. All dies schaffe einen Nährboden für Desinformation und "ein wachsendes Gefühl von Misstrauen, Orientierungslosigkeit und Unsicherheit".
Weiter fordert Leo XIV., von KI erzeugte oder manipulierte Inhalte müssten klar gekennzeichnet und deutlich von menschengemachten Inhalten unterschieden werden. Die Arbeit von Journalisten, Autoren und anderen Kreativen sei urheberrechtlich zu schützen.
Leo will Cybermobbing durch Bildung bekämpfen
In dem Text mit dem Titel "Custodire voci e volti umani" (Gesichter und Stimmen des Menschen schützen) verweist Leo auf Chatbots und ständig wachsende Möglichkeiten der KI, Stimmen, Gesichter, Gestik und Mimik nachzuahmen und sogar menschliche Emotionen vorzutäuschen.
Heute brauche es eine "digitale Alphabetisierung", um zu verstehen, "wie Algorithmen unsere Wahrnehmung der Realität prägen, wie KI-Verzerrungen funktionieren, welche Mechanismen das Erscheinen bestimmter Inhalte in unseren Informationsfeeds bestimmen und welche Annahmen und Wirtschaftsmodelle der KI-Ökonomie zugrunde liegen und wie sie sich verändern können", resümiert Leo XIV.
Nur so sei zu verhindern, dass KI für schädliche Inhalte und Verhaltensweisen wie digitalen Betrug, Cybermobbing und Deepfakes missbraucht werde, die die Privatsphäre und Intimität der Menschen ohne deren Zustimmung verletzen.
Deepfake
Ein Deepfake ist eine durch Künstliche Intelligenz erzeugte oder manipulierte Audio-, Video- oder Bildaufnahme, die eine echte Person täuschend echt zeigt oder sprechen lässt, obwohl sie dies nie gesagt oder getan hat. Deepfakes nutzen sogenannte Deep-Learning-Algorithmen, um Gesichtszüge, Stimmen oder Bewegungen originalgetreu zu imitieren. Sie werden häufig zu Unterhaltungszwecken eingesetzt, können aber auch missbraucht werden, etwa für gefälschte Werbung, politische Desinformation, Betrug oder Rufschädigung.
KI als Bedrohung für Kunstschaffende
Weiter mahnt der Papst, in den vergangenen Jahren hätten KI-Systeme zunehmend die Produktion von Texten, Musik und Videos übernommen. "Ein Großteil der menschlichen Kreativwirtschaft läuft daher Gefahr, abgebaut und durch das Label 'von KI gesteuert' ersetzt zu werden, wodurch Menschen zu bloßen passiven Konsumenten unreflektierter Gedanken, anonymer, unautorisierter und ungeliebter Produkte werden", so das Kirchenoberhaupt.
Den kreativen Prozess aufzugeben und die eigenen geistigen Fähigkeiten und die Vorstellungskraft Maschinen zu überlassen, bedeute, die Talente zu begraben, die den Menschen gegeben seien, um in Beziehung zu Gott und den Mitmenschen zu wachsen. "Es bedeutet, unser Gesicht zu verbergen und unsere Stimme zum Schweigen zu bringen", kritisiert Leo XIV.
Was ist Künstliche Intelligenz?
Der Begriff Künstliche Intelligenz (KI) wurde vor mehr als 60 Jahren geprägt durch den US-Informatiker John McCarthy. Er stellte einen Antrag für ein Forschungsprojekt zu Maschinen, die Schach spielten, mathematische Probleme lösten und selbstständig lernten. Im Sommer 1956 stellte er seine Erkenntnisse anderen Wissenschaftlern vor. Der britische Mathematiker Alan Turing hatte sechs Jahre zuvor bereits den "Turing Test" entwickelt, der bestimmen kann, ob das Gegenüber ein Mensch ist oder eine Maschine, die sich als Mensch ausgibt.
