Drohnen und autonome Systeme

Vor einigen Wochen war in Münster Hafenfest. Bei schönem Wetter flanierten wir am Wasser entlang, als meine Tochter in den Himmel zeigte. “Ist das einer von euch”? Mir war zunächst nicht ganz klar was sie meinte, aber in Richtung ihres Zeigefingers schwebte in einer Höhe, die ihn unhörbar machte ein kleiner Quadkopter.

Ich bin ja Mitglied im Warpzone e.V., und daher weiß sie auch, das dort einige Leute an Quadkoptern basteln. Dadurch konnte ich auch mit der Aufhängung etwas anfangen, die sich unter dem Quadkopter befand und eine Digitalkamera trug. Ich hatte keine Ahnung, wen die Drohne gehörte, und konnte auch keinen Piloten entdecken, aber der konnte bei der Reichweite einer Fernbedienung überall in der Menschenmenge sein.

Im Nachhinein habe ich dann noch herausbekommen, das es kommerzielle Luftaufnahmen waren, und keiner von uns. Man kann die Dienstleistung mittlerweile ganz normal kaufen um z.B. ein Luftbild seines Hauses, oder der Nachbarschaft zu bekommen.

Brisanter sind da schon Drohnen wie sie das Militär seit geraumer Zeit benutzt. Davon kann derzeit der Verteidigungsminister ein Lied singen, der sehr lange nicht einsehen wollte, das ein “No” der Luftaufsichtsbehörde recht effektiv verhindert, das sein teures Spielzeug woanders eingesetzt wird als auf dem Boden, oder unter Wasser.

Sowohl der Quadkopter vom Hafenfest, als auch die Militärdrohne haben allerdings eine Gemeinsamkeit – sie werden von Menschen gelenkt. Ein Mensch entscheidet, wohin die Kamera zeigt, Ein Mensch sitzt am Feuerknopf für die Bordbewaffnung.

Das ist längst nicht mmehr überall so. selbstständig handelnde Maschinen sind mittlerweile Alltag. Sogar im wörtlichen Sinne, denn an den Börsenplätzen dieser Welt handeln z.B. Programme miteinander Marktpreise aus, kaufen und verkaufen sowohl Aktien als auch Lebensmittel in Sekundenbruchteilen. Schneller als ein Mensch sie Live verfolgen kann.

Und hier beginnt das Problem, das in diesem Video mit ein paar von den genannten Quadkoptern recht gut erläutert wird. Die Steuerung der Kopter muß hier aufgrund der komplexen Aufgaben die zu bewältigen sind vollständig an einen Computer übertragen werden. Der Computer weiß dank vieler Sensoren wo sich die Kopter gerade befinden. Der Computer weiß, was sie tun müssen um ihre Aufgaben zu lösen, und der Computer berechnet 50 mal pro Sekunde neu, was er tun muß um alle Kopter im passenden Moment an der passenden Position in der passenden Lage zu haben. Autonome Systeme, also Schlußendlich Computer, die während der Lösung ihrer Aufgaben keine menschlichen Eingaben mehr benötigen, treten in Interaktion mit unserer realen Welt. Die Daten die 2 Handelssysteme an der Börse austauschen um den Wert einer Schiffsladung Gerste festzulegen entscheiden darüber wieviele Menschen morgen im Herkunftsland verhungern.
Dagegen sind autonome Roboter geradezu human, weil sie es uns durch ihre “körperliche” Präsenz leichter machen, sie mit unseren üblichen Denkmustern zu erfassen und zu bewerten.

Viele Fragen sind im Umgang mit autonom handelnden Sytemen noch offen. Die technischen Fragen werden zunehmend von Programmierern gelöst. Doch andere – soziale – Fragen stehen nach wie vor im Raum. Wer haftet bei Fehlern. Ich bin mir sicher, dass irgendwann Selbstschußanlagen, wie sie an der mexikanischen US-Grenze bereits eingesetzt werden, mit über 99%er Sicherheit erkennen können, wenn sich ein rational handelnder Mensch die Flucht aufgibt, aber wer lädt die Schuld auf sich für das restliche Prozent, das der Computer fehlerhaft erkennt?

Der Autor Daniel Suarez hat in diesem Video noch ein paar andere Denkanstöße, warum autonome Maschinen kein Weg sein sollten Macht auszuüben (Wie es Kriegsgerät ja automatisch tut) Kurz: Es geht darum, das zu viel Macht auf zu wenige Köpfe verteilt wird, um das Ergebnis noch als Demokratie bezeichnen zu können. Aber er schlägt auch einen möglichen Weg vor, der (Überraschung) auch hier wieder sozial geprägt ist. Wir müssen als Gesellschaft ein Bewusst sein dafür bekommen, wann Maschinen uns Entscheidungen abnehmen, und die Regeln einsehen können, nach denen sie handeln.

Liebe Leute, ich weiß, es ist nicht immer ganz einfach mit uns Programmieren, die wir den ganzen Tag recht unverständliches Techno-Gebabbel reden, aber wenn euch langweilig ist, dann geht doch mal ein Bier mit uns trinken, und hört euch an, was wir an sozialen Implikationen bei unserem Berufsstand so sehen, und tragt diese sozialen Fragen in die Gesellschaft. Denn ansonsten lösen wir diese Fragen so, wie wir es am besten können – technisch. Und glaubt mir, das wollt ihr nicht unbedingt.