Aus dem Dokumentarfilm "Krieg und Spiele"
Aus dem Dokumentarfilm "Krieg und Spiele"
Karin Jurschick
Karin Jurschick
Szene aus dem Dokumentarfilm "Krieg und Spiele"
Szene aus dem Dokumentarfilm "Krieg und Spiele"

18.08.2016

Dokumentarfilmerin warnt vor Entwicklung künstlicher Intelligenz "Wir geben irgendwann die Steuerung aus der Hand"

Wie verändern die neuen Techniken unsere Vorstellungen von Krieg, Ethik und Moral? Dokumentarfilmerin Karin Jurschick wirft in ihren neuen Film "Krieg und Spiele" einen Blick in die Welt der Künstlichen Intelligenz – mit bedrückendem Fazit.

domradio.de: Sie beginnen Ihren Film mit einem kleinen Jungen in der Wüste, der ein kleines Spielflugzeug mit einer Fernsteuerung lenkt. Plötzlich taucht eine High-Tech-Drohne auf und der Junge beginnt zu fliehen. Warum starten Sie Ihren Film mit dieser Szene?

Karin Jurschick (Dokumentarfilmerin): Ich war als Filmemacherin schon in Ländern wie Afghanistan oder dem Kongo. Als ich zum ersten Mal vor einigen Jahren von diesen Drohnen las, hatte ich immer die Vorstellung, dass es für die "Menschen unten" in ihren teilweise noch archaischen Verhältnissen wie eine Himmelserscheinung sein muss – wie ein Todesengel. Es hat sicher etwas sehr Bedrohliches, wenn plötzlich diese High-Tech-Maschine am Himmel auftaucht. Der andere Grund für die Anfangsszene mit dem kleinen Jungen ist, dass die Szene auch der historischen Entwicklung von Drohnen ähneln soll: Was als Spiel mit einem kleinen Modellflugzeug anfing, ist uns aus der Hand gegangen. Es hat sich zu etwas entwickelt, was die Menschen selbst bedroht und was wir nicht mehr steuern können.

domradio.de: In Ihrem Film betonen Forscher aus den Reihen des Militärs, dass Drohnen bei der Rettung von Menschen helfen. Überzeugt Sie das?

Jurschick: Aus der rein militärischen Perspektive durchaus. Ich habe im Film mit drei israelischen Herren gesprochen, die sich selbst als die "Drei Musketiere" bezeichnen. Sie haben die erste Drohne in den frühen 1980er-Jahren entwickelt, um die eigenen Soldaten vor Hinterhalten zu schützen – quasi um "über den nächsten Hügel gucken zu können". Von dieser Perspektive aus kann man sagen, militärische Aufklärung macht immer Sinn. Nur, dass diese flächendeckende Aufklärung zu einer Art von "Hyper-Kontrolle" und einer Eskalation des Krieges führt - das war nicht so vorausgesehen.

domradio.de: Sie blicken auch auf die Verbindungen zwischen Computerspielebranche und Militär. Wieso sind Videospieleentwickler für die militärische Forschung von Interesse?

Jurschick: Ich habe mit Dave Anthony, dem Entwickler von "Call of Duty", gesprochen. "Call of Duty" ist eines der bekanntesten Ego-Shooter-Spiele mit Millionen von Fans weltweit. Dave Anthony wurde vom Pentagon gefragt, woher er seine Ideen für das Spiel nimmt und wurde dann direkt als Berater für das Verteidigungsministerium engagiert. Die Antwort auf ihre Frage war, dass sich der Spiele-Entwickler in diesem Fall sehr gründlich mit Waffentechniken beschäftigt hat, die bereits existieren. Im zweiten Schritt hat er diese futuristisch anmutenden Waffen für sein Spiel weiterentwickelt. Das ist quasi wie ein "Test-Szenario" im virtuellen Raum, den das Militär übernommen hat.

Zudem gibt es ganz handfeste Verbindungen. So kommen manch militärische Software oder einzelne Bedienhilfen wie der "Joystick" ursprünglich aus der Unterhaltungsindustrie. Da die Techniken dort gut funktionierten, wurden sie vom Militär übernommen. Darüber hinaus werden inzwischen Soldaten mithilfe von Videospielen trainiert. Das ist keine neue Entwicklung, aber auch da werden Verbindungen deutlich.

domradio.de: Nicht alle Militärs sehen die neuen Techniken positiv. In Ihrem Film kritisiert ein hochrangiger US-Militär im Ruhestand die Entwicklung. Er klagt die neue Forscher-Generation als "junge Leute ohne Moral und ethische Bedenken" an - damit sind auch die Gamer gemeint. Geben Sie ihm Recht?

Jurschick: Es ist die Haltung alter Militärs, die sich natürlich auch abgehängt fühlen. Wobei ich da auch ein bisschen skeptisch bin, denn die "alten soldatischen Ideale" waren auch nur Ideale und sind in der Realität gar nicht so eingehalten worden. Ich denke auch, nicht jeder Fortschritt ist gleich nur auf neue Technologien bezogen. Ich gebe ihm aber insofern Recht, dass diejenigen Drohnenpiloten ein ganz anderes Gefühl vom Töten bekommen. Das liegt daran, dass sie so weit von dem entfernt sind, was sie tun und zudem die Kamera  eine unglaubliche Distanz zum Geschehen schafft. Daher denke ich, es braucht für diese Art von Krieg eine andere Mentalität - quasi einen anderen "Soldaten-Typ". Man braucht eher "Computer-Nerds" als den alten, klassischen Soldaten.

domradio.de: Glauben Sie, dass Töten durch die Distanz leichter fällt?

Jurschick: Es gibt Drohnenpiloten, die selber schon gesagt haben, dass sie durchaus posttraumatische Belastungsstörungen erleben. Grund hierfür ist, dass zwar einerseits die Distanz besteht – jedoch andererseits das Ziel auch länger beobachtet wird. Das ist eine merkwürdige Gespaltenheit: Man hat zu den Menschen eine große Distanz, aber sieht und verfolgt sie viel länger. Das erzeugt großen zusätzlichen Stress für manche Drohnenpiloten. 

domradio.de: Inzwischen ist die Forschung schon so weit, dass Drohnen ohne Menschen fliegen können. Maschinen denken also selbstständig. Wo sehen Sie die Bedrohung von "Künstlicher Intelligenz?

Jurschick: Yvonne Hofstetter sagt das im Film ganz gut - sie hat eine Firma, die Software für künstliche Intelligenz entwickelt: Die Bedrohung ist, dass wir irgendwann die Steuerungsmöglichkeit aus der Hand geben. Wenn die Maschinen selbstlernend werden – was sie schon sind – und wenn sie in einer rasenden Schnelligkeit Millionen von Informationen zusammentragen können und daraus Entscheidungen fällen – dann ist ein Eingreifen für den Menschen nicht mehr möglich. Yvonne Hofstetter gibt dazu das Beispiel des Finanzmarktes: Dort steuern solche Maschinen schon unsere gesamten Handelsaktionen. Hier kommt es immer wieder zu "Mini-Crashes", die niemand erklären kann. Kleine Anmerkung dazu: Frau Hofstetter ist keine Verschwörungstheoretikerin, sondern arbeitet für eine renommierte Firma im Bereich künstlicher Intelligenz. Wenn man sich diese "Mini-Crashes" nun für den militärischen Bereich vorstellt – also für Maschinen mit enormem Potential – finde ich das bedrohlich.

domradio.de: Maschinen, die den Menschen bedrohen - Das erinnert ja schon fast an Szenarien aus apokalyptischen Science-Fiction-Filmen wie "Terminator".

Jurschick: Ich bin zwar keine Verschwörungstheoretikerin, aber ich dachte auch, dass wir uns diesen Science-Fiction-Szenarien durchaus nähern: Szenarien, in denen die Maschinen mehr Autonomie gewinnen. Ein amerikanischer Wissenschaftler hat dazu gesagt: Wir lernen genauso wie Maschinen. Wir bekommen auch Informationen, auf deren Grundlage wir handeln. Danach merken wir dann, was gut war und was nicht. Genauso lernen Maschine auch – mit dem Unterschied, dass sie schneller sind und mit gewaltigeren Informationsmengen umgehen. Es gibt sogar Wissenschaftler, die sagen, wir schaffen uns mit den modernen Techniken eine neue "Ethnie". Das ist zwar noch Science-Fiction, aber ausgeschlossen ist es nicht mehr.

domradio.de: Maschinen übernehmen die Macht. Ist das auch die Botschaft ihres Films "Krieg und Spiele"?

Jurschick: Nein. Die Botschaft ist, dass sich nicht nur in der militärischen Forschung aktuell sehr viel tut, sondern auch darüber hinaus. Der gesamte Bereich Künstliche Intelligenz ist ja nicht abgetrennt, sondern wirkt zunehmend auch in unseren Alltag hinein. Ich denke es ist Zeit, darüber nochmal anders, neu und breiter nachzudenken. Das sollten wir nicht irgendwelchen Experten überlassen, die oft auch im Geheimen darüber forschen.

Das Interview führte Marcel Krombusch.

Der Dokumentarfilm "Krieg und Spiele" startet am Donnerstag, 18. August, in den Kinos.

(dr)

Nachrichten-Video

Zum Video:
Mittwoch, 23.08.2017

Video, Mittwoch, 23.08.2017:Christliche Nachrichten

Jetzt im Radioprogramm

12:00 - 18:00 Uhr 
Der Tag

Informationen, Musik und nette Menschen

Wort des Bischofs - Das Buch

52 Impulse aus dem Jahr 2016 jetzt auch als Buch!

Tageskalender

Radioprogramm

  • Tageskalender
  • 23.08.
06:00 - 06:30 Uhr

Laudes

06:30 - 10:00 Uhr

Der Morgen

  • Humanitäre Korridore – Sant'Egidio in Köln setzt Papst Botschaft um
  • Evang. Jugend auf der weltweit größten Spielemesse "Gamescom"
  • "Stoppt Waffenexporte" – terre des hommes startet Kampagne zur Bundestagswahl
07:55 - 08:00 Uhr

Evangelium

10:00 - 12:00 Uhr

Thema

10:00 - 12:00 Uhr

Thema

12:00 - 18:00 Uhr

Der Tag

  • "Der Milchschaumschläger" - Ein Caféroman von Moritz Netenjakob
  • Mehr Sicherheit in der Kölner Domumgebung
  • Schnupper-Pilgertag des katholischen Bildungswerks in Wuppertal
12:00 - 18:00 Uhr

Der Tag

  • "Der Milchschaumschläger" - Ein Caféroman von Moritz Netenjakob
  • Mehr Sicherheit in der Kölner Domumgebung
  • Schnupper-Pilgertag des katholischen Bildungswerks in Wuppertal
18:00 - 20:00 Uhr

Kompakt

20:00 - 22:00 Uhr

Thema

22:00 - 22:30 Uhr

Komplet

22:30 - 24:00 Uhr

Kompakt

00:00 - 06:00 Uhr

Nachtportal

02:00 - 03:00 Uhr

Kopfhörer

Heutiges Evangelium:
In dieser Woche zu Gast:
In dieser Woche zu Gast:

Komplet – Das Nachtgebet mit Weihbischof Ansgar