Pepper zu Besuch in Köln bei Caritas
Pepper zu Besuch in Köln bei Caritas
Ethik-Professor Peter Dabrock
Ethik-Professor Peter Dabrock

03.12.2018

Ethikratsvorsitzender über Risiken der Künstlichen Intelligenz "Roboter dürfen Menschen nicht beherrschen"

Zwei Tage konferiert die Bundesregierung in Nürnberg zu digitalen Innovationen und Künstlicher Intelligenz. Der Theologe und Vorsitzende des Deutschen Ethikrats, Peter Dabrock, pocht auf ethisch programmierte smarte Maschinen.

KNA: Herr Professor Dabrock, Routenplaner, Online-Dolmetscher, virtuelle Assistenten wie Alexa und Siri oder die medizinische Diagnostik - Künstliche Intelligenz (KI) scheint allgegenwärtig. Wird unser Leben bald größtenteils von Maschinen bestimmt?

Peter Dabrock: Ohne mich als Prophet inszenieren zu wollen, wage ich die These: Dieser Trend ist nicht mehr rückgängig zu machen. Die Entwicklung findet weltweit statt. Und das bedeutet: Die Entscheidung, wie das KI-Zeitalter gestaltet wird, wird vorwiegend nicht in Deutschland gefällt.

KNA: Noch programmieren Menschen die Maschinen - wird es eines Tages umgekehrt sein: Die Maschine beherrscht den Menschen?

Dabrock: Der Einsatz von Technik bringt immer Gewinne und Verluste mit sich. Wir müssen allerdings darauf achten, dass diese Gewinne und Verluste bestimmte Grenzen nicht überschreiten. In manchen Bereichen werden uns Maschinen Freiheitsgewinne bescheren, in anderen Bereichen Freiheitseinschränkungen. Man sollte nicht den Eindruck erwecken, wir könnten allein durch Regulierung bestimmte Herausforderungen der Digitalisierung an den Einzelnen und die Gesellschaft in den Griff bekommen. Dazu braucht es mehr. Und am Ende muss der Mensch im Mittelpunkt stehen. Roboter oder KI-Maschinen dürfen ihn nicht direkt, aber auch nicht indirekt beherrschen.

KNA: Aber wie verhindern wir das?

Dabrock: Indem wir uns bei der Programmierung der Künstlichen Intelligenz oder dem Trainieren der smarten Maschinen von ethischen Grundsätzen leiten lassen.

KNA: Und das ist möglich?

Dabrock: Zu behaupten, ethisch zu programmieren ginge nicht, hieße im Grunde, dass wir gänzlich die Finger von solchen smarten Maschinen lassen. Denn in jede Programmierung, ob sie sich explizit 'ethisch' nennt oder nicht, fließen - auch moralische - Vorannahmen der Programmierer ein. Dann ist es doch sinnvoll, dass diese Annahmen erstens offen gelegt werden und dass zweitens die Programmierung bestimmte allgemeine Rechtsregeln zu beachten hat.

Beispielsweise beim sogenannten autonomen Fahrzeug: 'Menschenleben haben bei einer Kollision Vorrang vor anderen Lebewesen' oder 'Keine diskriminierenden Maßstäbe dürfen die Programmierung leiten'.

Drittens sollte es die Möglichkeit geben, in einem solchen Rahmen moralische Präferenzen zu artikulieren. Nochmals am Beispiel der autonomen Fahrzeuge: Muss man nicht darüber nachdenken, ob es nicht auch die Möglichkeit geben sollte, sein Auto so zu programmieren, dass in dem äußerst seltenen Fall einer tragischen Dilemma-Situation ein Selbst- einem Fremdopfer vorgezogen wird? Vorausgesetzt ist dann aber, dass im Fahrzeug niemand uninformiert mitfährt.

KNA: Wie aber kommt die KI zu ihren Entscheidungen? Warum empfiehlt sie dem einen Kunden Versicherungstarif A, dem anderen Tarif B? Wie kann der Arzt sicher sein, dass die maschinell erstellte Behandlungsempfehlung wirklich die beste ist? Wie findet die Drohne ihre Ziele, die sie bekämpft?

Dabrock: Die große Herausforderung besteht darin, dass sich die exakten Auswahlschritte, insbesondere bei den smarten Maschinen, nicht nachvollziehen lassen. Auch wenn das so ist, haben zwei Grundsätze zu gelten: Zum einen müssen Organisationen oder auch Privatpersonen, die solche KI-basierten Maschinen nutzen, Transparenz walten lassen, welche Kriterien in die Berechnung eingeflossen sind. Zum anderen darf sich niemand herausreden, dass er keine Verantwortung für eine Entscheidung habe, sondern die Maschine. Am Ende muss immer eine menschliche oder juristische Person haften, wenn etwas schiefläuft. Ob ein menschlicher Fehler oder eine Maschine das verursacht hat, ist egal.

KNA: KI-Systeme benötigen für ihre Berechnungen erhebliche Datenmengen - auch über Personen. Wie wird hier der Schutz persönlicher Daten gewährt?

Dabrock: Der verantwortliche Umgang mit Daten ist eine Schlüsselfrage des 21. Jahrhunderts. Aber auch da müssen wir ehrlich sein. Wir können nicht die Prinzipien des alten Datenschutzes wie Datensparsamkeit, Zweckbindung und informierte Einwilligung wie eine Monstranz vor uns hertragen und gleichzeitig alle Vorteile der Maschinen und Systeme, die riesige Daten benötigen, nutzen wollen.

Deshalb hat der Deutsche Ethikrat vor einem Jahr eine Stellungnahme veröffentlicht, in der er einen Paradigmenwechsel vom Datenschutz zur Datensouveränität vorschlägt. Konkret heißt dies: Wir wollen weiter die informationelle Selbstbestimmung wahren, aber diese nicht mit einer Einwilligung abgegeben haben, sondern die Kontrollhoheit über die Weitergabe persönlicher Daten wahren. Dazu gibt es spannende technische und administrative Modelle. Das geht. Und solche Chancen zeigen: Das Datensubjekt muss sich nicht einfach verkaufen. Die Politik muss dann aber auch wollen, dass der Einzelne Herr seiner Daten bleibt und solche Initiativen unterstützen.

Das Interview führte Stefanie Ball.

(KNA)

Die schönsten Lieder des Mitmach-Chorfestivals

Das Mitmach-Chorfest in der Kölner Lanxess-Arena mit 15.000 Teilnehmern aus allen kirchenmusikalischen Gruppen des Erzbistums. Jetzt alle Videos verfügbar!

Programm im Advent und an Weihnachten

Das volle Programm im DOMRADIO und auf DOMRADIO.DE!

DOMRADIO.DE auch auf Alexa

Gottesdienste, Nachrichten und das Evangelium – jetzt täglich auch auf Ihrem Echo und Echo Show!

Wort des Bischofs

Der geistliche Impuls von Kardinal Woelki. Jeden Sonntag neu.

Mit Willibert in die Heilige Stadt

Im November 2019 ist es soweit: Erkunden Sie das ehrwürdige Rom auf dieser Pilgereise mit dem Rom-Kenner Willibert Pauels, Karnevalsfreunden und DOMRADIO.DE Besuchern auch bekannt als "ne Bergische Jung"!

Der gute Draht nach oben!

Tageskalender

Radioprogramm

  • Tageskalender
  • 10.12.
06:30 - 10:00 Uhr

DOMRADIO Der Morgen

  • Die Warnstreiks bei der Deutschen Bahn
  • Buch über das Thema "Mut"
  • Der Vatikan und die UN-Menschenrechte
10:00 - 15:00 Uhr

DOMRADIO Der Tag

  • Konferenz in Marrakesch zum "Migrationspakt"
  • Mut-Mach-Geschichten im Adventskalender
10:00 - 15:00 Uhr

DOMRADIO Der Tag

  • Konferenz in Marrakesch zum "Migrationspakt"
  • Mut-Mach-Geschichten im Adventskalender
15:00 - 19:00 Uhr

DOMRADIO Der Tag

15:00 - 19:00 Uhr

DOMRADIO Der Tag

19:00 - 22:00 Uhr

DOMRADIO Der Abend

22:00 - 22:30 Uhr

DOMRADIO Nachtgebet

Heutiges Evangelium:
In dieser Woche zu Gast:
In dieser Woche zu Gast:

Wochenkommentar

Der DOMRADIO.DE Chefredakteur blickt auf die Woche.

Programmtipps

  • Blättern im neuen Gotteslob
    10.12.2018 20:00
    Anno Domini

    Mystiker des 20. Jahrhundert

  • Matthäusevangelium
    11.12.2018 07:50
    Evangelium

    Mt 18,12–14

  • "Die Nacht ist vorgedrungen" - Adventslied von Jochen Klepper
    11.12.2018 09:20
    Anno Domini

    Dichter geistlicher Lieder

Kostenlose Radio-App für iPhone und Android

Nehmen Sie Ihr DOMRADIO.DE mit wohin Sie wollen und wann immer Sie Lust haben. Funktionen: Nachrichten, Podcasts, Mediathek, Wecker, Sleep-Timer, Bluetooth, Chromecast, AirPlay, CarPlay, Android Wear…

Empfangsanleitung zum Ausdrucken

Weihbischof Schwaderlapp beantwortet Glaubensfragen

Der tägliche Impuls von Weihbischof Puff

Gemeinsam für das Mehr im Menschen

Berufungspastoral im Erzbistum Köln: Dein Platz in Kirche und Welt.

Das ganze Leben

Hilfsangebote der Kirche im Erzbistum Köln.