Heute verlinke ich das erste Mal einen Podcast, nämlich Alternativlos Folge 29. Das ist in diesem Fall einfach ein Gespräch zwischen Felix von Leitner (besser bekannt als Fefe), Frank Rieger und Frank Schirrmacher. Die drei befassen sich mit der sehr weit reichenden Frage, wie weit wir Software über unser Leben entscheiden lassen und inwieweit das aktuell schon der Fall ist.
Ausgangspunkt ist dabei Frank Schirrmachers Untersuchung, wie sich die mathematische Spieltheorie über die letzten Jahrzehnte auf die westlichen Gesellschaften ausgewirkt hat. Darüber hat er kürzlich ein Buch veröffentlicht, Ego: Das Spiel des Lebens.
Die Spieltheorie ist ein Teil der mathematischen Grundlagen der vorherrschenden Wirtschaftstheorien. Diese sind zunächst zwar nur Theorien, die versuchen die ökonomische Wirklichkeit abzubilden. Wie das aktuelle Beispiel "Sparpolitik" zeigt, wirken diese Theorien jedoch teilweise sehr unmittelbar auf die politische und ökonomische Praxis ein, und ihre (versehentlich oder absichtlich) falschen Grundannahmen ebenso.
Daher empfehle ich als kurzen Exkurs den Artikel über das Modell des homo oeconomicus von Renée Menendez, dessen entscheidende Aussage lautet:
die Vorstellung, daß Menschen handeln würden hat nichts mit dem Modell zu tun, welches als zentral für die Marktwirtschaft interpretiert wird. Denn dort handeln sie nicht, sondern fügen sich ergeben in die Vorgaben, die als Preissignale von einem anonymen “Markt” auf sie einprasseln.
Genau genommen entscheiden Menschen in diesem Modell also gar nichts.
Das wäre kein Problem, handelte es sich um eine Theorie, die im luftleeren Raum für sich steht. Einerseits dient sie jedoch als Grundlage für wirtschaftspolitische Rahmensetzungen, und andererseits – und damit kommen wir zum eigentlichen Kern dieses Beitrags – wurde dieses Modell vielfach in Software gegossen, die inzwischen im Millisekundentakt Investitionsentscheidungen trifft. Das Stichwort lautet Hochfrequenzhandel. Dirk Müller hat diesen im Bundestag sehr eindrücklich erklärt – ich hoffe die Abgeordneten ziehen die entsprechenden Konsequenzen daraus. Bisher sieht es leider nicht danach aus.
Um es noch einmal deutlicher zu machen: Computerprogramme geben an den Börsen nicht mehr nur Empfehlungen, sondern treffen autonom Entscheidungen, wann was in welcher Menge ge- oder verkauft wird. Software überträgt Eigentum, ohne dass Menschen diese Entscheidungen überprüfen. Das können sie gar nicht, weil es viel zu schnell geht.
Was mich dabei als Informatiker besonders gruselt, ist, dass Frank und Fefe als professionelle Hacker sagen, diese Systeme können wir als Menschen gar nicht verstehen. Denn es werden Verfahren wie neuronale Netze und evolutionäre Algorithmen eingesetzt, die biologische Strukturen simulieren. Damit sind diese Verfahren nicht mehr deterministisch, d.h. es ist prinzipiell unmöglich, aufgrund des Quelltextes des Computerprogramms vorherzusagen, was dieses tun wird.
Das alleine wäre schon erschreckend genug, doch kombiniert mit autonomen bewaffneten Drohnen rücken damit Science Fiction-Schreckensvisionen in greifbare Nähe (namentlich das militärische Computernetz Skynet aus der Filmreihe Terminator und noch weiter gehend die Matrix-Trilogie). Frank Rieger befasst sich im Namen des Chaos Computer Club damit sehr intensiv, er hat im April einen sehenswerten Vortrag bei der Digitalen Gesellschaft gehalten. An dieser Stelle verweise ich daher auch auf die Drohnen-Kampagne der Friedens- und Bürgerrechtsbewegung in Deutschland.
Noch gibt es nur wenige Bereiche der Gesellschaft, in denen Computerprogramme bereits autonom Entscheidungen treffen. Aber wir verlassen uns immer mehr auf ihre Empfehlungen. Beispiele reichen vom Navi, das unsere Fahrtroute berechnet, über die Online-Partnervermittlung bis hin zum Musikportal, das unseren Musikgeschmack mitbestimmt. Je "besser" die Vorschläge der Software werden, um so niedriger sinkt die Schwelle, ihr auch gleich die Entscheidung zu überlassen.
Besonders bedenklich finde ich deshalb auch die Beobachtung aus dem Podcast, dass unsere Kinder heute von Anfang an damit aufwachsen, dass Software (in dem Fall Computerspiele, aber auch soziale Netze) ihnen vorgibt, was möglich und sinnvoll ist, und was nicht. Unter dem Stichwort Gamification breitet sich dieses Phänomen immer weiter auch in der Gesellschaft der Erwachsenen aus.
Tritt man ein paar Schritte weiter zurück, dann erscheint das Übertragen von Entscheidungsgewalt auf Computerprogramme als naheliegende Konsequenz der repräsentativen Demokratie. Auch dabei geben wir unsere Stimme ab (in eine Urne!), und die nächsten vier oder fünf Jahre lang hat dann der von uns gewählte Abgeordnete unser Mandat. Seine Entscheidungen trifft er während dieser Zeit – jedenfalls von uns, die wir ihn oder sie gewählt haben – autonom. In der Praxis beeinflussen dann Fraktionszwang und Lobbyismus zusätzlich seine Entscheidungen, wodurch diese noch viel weniger an unser Mandat gekoppelt sind. Das wollen die Piraten – übrigens auch wieder in Software gegossen – mit ihrem System LiquidFeedback ändern. Dieses wäre wahrhaftig ein weitreichendes Upgrade für die parlamentarische Demokratie. Um die Schwierigkeiten dabei geht es auch in Alternativlos 29.
Die Regeln, die eine menschliche Gesellschaft bestimmen (und eben zunehmend von Computerprogrammen ausgeführt werden, siehe auch Lawrence Lessigs Satz Code is Law), werden letztlich immer noch von Menschen festgelegt. In jeder Gesellschaft stellt sich daher immer wieder aufs Neue die Frage, wer bestimmt über die Regeln der Gesellschaft, und nach welchem Modus sollen diese festgelegt werden? Wieviel dabei als scheinbar selbstverständlich vorgegeben angenommen wird, zeigt eindrücklich die Geschichte der drei Bären aus einem Kindermagazin, die Christoph Spehr in seinem Buch Gleicher als andere auseinander nimmt.
Passenderweise hat Stefan Meretz im keimform-Blog gerade einen ausführlichen Text darüber geschrieben, wie eine über das Repräsentativsystem hinaus gehende Demokratisierung gehen könnte. Den empfehle ich Ihnen zum Abschluss zur Lektüre.
Und da eben Computerprogramme immer stärker die Exekutive übernehmen, ist die Verfügbarkeit der Programmierumgebung LiveCode als Open Source-Projekt ein wichtiger Schritt für die Demokratisierung unserer digitalen Welt.
Weiterhin sollten wir uns Gedanken wie in der Berliner Gazette darüber machen, wie die Machtverhältnisse von Infrastrukturbetreibern und -nutzern die digitale Welt im Cloud-Zeitalter formen. Stichworte dazu sind Peer-to-Peer und noBackend. Das Internet war ursprünglich viel dezentraler als es heute ist, schließlich sollte es einen Atomschlag überstehen. Zentrale Knotenpunkte waren dafür viel zu angreifbar.
