Lässt sich die digitale Welt zivilisieren?
Autorin/Autor: Philippe Mastronardi
Von Kontrapunkt* vom 14. September 2017
Philippe Mastronardi
Science Fiction Filme, in denen Roboter Menschen steuern, sind kein blosses Unterhaltungsvergnügen mehr. Sie werden immer mehr zur realen Möglichkeit. Da alles, was technisch möglich ist, auch getan wird, wenn ihm keine Grenzen gesetzt werden, gilt es, gesellschaftliche Gegenkräfte zu entwickeln, welche die Technik dem menschlichen Mass unterordnen.
1. Das Phänomen
a) Technische Entwicklung
Der Bildschirm unseres Computers gehört noch zur analogen Welt unserer Sinneserfahrungen. Dahinter spielt sich eine digitale Welt ab, die wir nicht wahrnehmen, die aber unsere Gesellschaft mehr prägt, als wir erkennen können. Durch eine Vernetzung von Daten, die in ihrem Ursprung nicht für einander bestimmt sind, wird eine neue Realität erzeugt, welche zwischen diesen Daten Kausalitäten und Zurechnungen schafft, die ausserhalb der klassischen Kommunikation zwischen Menschen ablaufen und diese unterwandern.
Das Phänomen beginnt bei Online-Diensten, welche uns scheinbar unentgeltlich angeboten werden. In Wirklichkeit zahlen wir mit unserer Bereitschaft, vom Provider ausspioniert zu werden. Das Resultat ist, dass die Internet-Suchmaschinen unsere Wünsche und Interessen erraten, weil sie unsere Suchgewohnheiten kennen. Amazon schliesst aus unseren früheren Käufen, welches Buch wir als nächstes lesen wollen. Die Migros weiss, mit welchem Cumulus-Gutschein sie uns individuell zum nächsten Kauf verlocken kann. Und Google weiss, was wir mit einer unklaren Abfrage im Internet eigentlich meinen und welche Antworten uns gefallen werden. Dies ist möglich, weil wir im Internet durch unser Suchverhalten Spuren hinterlassen, aus denen sich ein Profil unserer Interessen erstellen lässt. Aus der unendlichen Menge an Informationen im Netz werden jene Daten herausgefiltert, welche zu diesem Profil passen. Daraus entsteht eine “Filterblase“, in welcher uns prioritär jene Informationen angezeigt werden, die mit unseren bisherigen Ansichten übereinstimmen. Wir werden dadurch in unserer Informationsfreiheit eingeschränkt und im Austausch mit Andersdenkenden behindert. Dieser isolierende Blaseneffekt kann negative Folgen für den Diskurs der Zivilgesellschaft haben.
Die Profilbildung führt aber auch zu Diskriminierungen. Mit der automatischen Datenanalyse lässt sich versteckt ermitteln, ob jemand reich oder arm beziehungsweise gesund oder krank ist. Schätzungen über unsere Kaufkraft können bestimmen, ob uns im Online-Shop ein Produkt angeboten wird und wieviel wir dafür bezahlen müssen. Dies hat auch Auswirkungen auf den Arbeitsmarkt. So bietet Google hoch bezahlte Stellen weniger häufig Frauen an als Männern. Die Beispiele liessen sich beliebig erweitern.
Weitere Schritte bringt uns das Internet der Dinge. Das autonome Auto kann bereits heute gleich viele Impulse pro Sekunde verarbeiten wie der Mensch. Es beginnt uns darin zu überholen. Das Smart Home stattet alle Geräte im Haus mit Sensoren aus, vernetzt sie und lässt sie auf intelligente Art und Weise vom Verhalten der Bewohner lernen und deren Bedürfnisse automatisch erfüllen. In modernen Produktionsprozessen der „Industrie 4.0“ vernetzt das Internet der Dinge physisch existente Geräte und Maschinen so miteinander, dass sie sich auf intelligente Weise regulieren und kontrollieren.
Ansätze zu einer „künstlichen Intelligenz“, also der Fähigkeit von Computern, menschliche Kreativität nachzubilden, zeigen sich, wenn ein Computer einen Schachweltmeister schlägt oder im asiatischen Brettspiel GO einen Meister besiegt. Von Go wird gesagt, es brauche Intuition und Kreativität, um die schier unendlichen Möglichkeiten des Suchbaums auf die wahrscheinlichsten Varianten zurechtzustutzen.
Gesellschaftlich relevante Entwicklungen zeigen sich etwa in der Fähigkeit von Cambridge Analytica, die öffentliche Meinung zu studieren und zu manipulieren. Mit Hilfe von Big Data- Analysen erlangt das System vertiefte Kenntnis der Einstellungen beliebiger Zielgruppen und erfasst jeden Adressaten anhand einer Skala von Persönlichkeitsmerkmalen, die er durch seine Spuren im Internet preisgegeben hat. Diese Kenntnis der politischen Präferenzen soll z. B. dem Wahlkampfteam von Donald Trump gestattet haben, zahllosen Empfängern von Twitter genau jene Aussagen aus den meist widersprüchlichen Wahlkampfreden zuzusenden, welche diesen Empfängern gefielen. Die digitale Welt ist damit in hohem Masse geeignet, uns über die reale Welt zu täuschen. Wir beginnen, unsere Filterblase für real zu halten.
Der wichtigste Motor der digitalen Entwicklung zur künstlichen Intelligenz ist der Algorithmus. Algorithmen sind Verarbeitungsvorschriften in Computerprogrammen, welche die Lösung von Problemen so exakt formulieren, dass sie von Maschinen abgearbeitet werden können. Sie legen fest, wie der Computer die jeweiligen Aufgaben erledigen soll. Dank ihnen können Computersysteme lernen, indem sie in ihren Wahrnehmungen aus der Umwelt wiederkehrende Muster erkennen. Solche lernende Computersysteme sind flexibel und können auf unterschiedlichste Umgebungen reagieren. Sie sind in der Erfüllung der ihnen vorgegebenen Aufgabe rasch und fehlerfrei, somit effizienter als der Mensch. Theoretisch sind ihnen keine Grenzen gesetzt. Dies gilt heute schon für die schwache künstliche Intelligenz, die auf bestimmte Gerätefunktionen spezialisiert ist (etwa innerhalb eines Smart Homes). Die umstrittene Möglichkeit einer starken künstlichen Intelligenz soll darüber hinaus beliebig viel lernen und auf unbegrenzt viele Ressourcen (Sensoren und Aktoren) zugreifen können. Z.B. sollen neuronale Netzwerke biologische Gehirne weitgehend simulieren können. Sie verändern ihre eigene Codierung und sind deshalb in der Lage, dem Menschen immer mehr Entscheidungsprozesse abzunehmen. Sie steuern sich selbst auf dem Weg des sich selbst verstärkenden Lernens. Ihre Sensoren melden dem System nicht nur den Bedarf der Umwelt, sondern auch den Erfolg der gewählten Aktion. Dies verstärkt erfolgreiche Aktionsmuster und reduziert Fehlleistungen. Künstliche Intelligenz kann vorgegebene Funktionen präziser erfüllen als der Mensch.
b) Ökonomische Entwicklung
Die Digitalisierung ist freilich nicht primär eine technische Entwicklung. Die Technik ist blosse Möglichkeit. Ihre Entwicklung wird wirtschaftlich bestimmt. Die digitale Welt ist in erster Linie eine ökonomische Welt. Denn zum einen ist Technik stets Mittel zum Zweck. Da das Mittel teuer ist, wird es nur eingesetzt, wenn es sich wirtschaftlich lohnt. Zum andern ist Technik zweckrational. Sie ist das effiziente Mittel zur Erreichung eines ihr vorgegebenen Zweckes. Welchem Zweck sie dient, bestimmt derjenige, der die Macht hat, über ihren Einsatz zu entscheiden. Im Falle der Digitalisierung sind es die Träger der vierten industriellen Revolution. Das sind weltweit im Wesentlichen die grossen fünf: Amazon, Apple, Facebook, Google und Microsoft. Diese maximieren ihren Umsatz, indem sie mit Hilfe der Big Data den Absatz im Markt steuern. Sie verstärken den Wandel der Marktwirtschaft von einer nachfragegesteuerten Wirtschaftsform zu einem System der Angebotssteuerung. Der einzelne Mensch und die gesamte Gesellschaft sollen sich dieser als technologisch bezeichneten Entwicklung anpassen. Damit erhält die Digitalisierung den Status einer unausweichlichen, quasi-natürlichen Notwendigkeit. Effektiv wird das Verhältnis von Mensch und Technik durch eine Gruppe von Konzernen definiert, die ihre gesellschaftliche Macht dank ihrer Verfügungsmacht über die neuen technischen Mittel nicht demokratisch legitimieren müssen. Der „cultural lag“, die Scherenentwicklung zwischen der trägen gesellschaftlichen und der exponentiellen technisch-ökonomischen Entwicklung, verschärft sich. Die Machtkonzentration bei einem Oligopol von multinationalen Firmen steigert die Ökonomisierung der Gesellschaft, indem sie personengebundene Kommunikationen und Entscheidungen durch digitale Operationen ersetzt, die durch eine ökonomische Rationalität determiniert sind.
Diese Entwicklung wird durch ein zentrales Merkmal der Digitalisierung geprägt. Die digitale Welt ist in erster Linie eine total vernetzte Welt. Nicht die Rechenkapazität oder die Beschleunigung machen sie aus, sondern die Vernetzung von allem mit allem. Nichts ist mehr autonom, abgegrenzt, von anderen Entwicklungen isoliert. Alles ist interdependent, Teil eines totalen globalen Systems. Jedes Element dieses Systems teilt das Schicksal der anderen. Es muss sich auch nach der Logik der anderen ausrichten. Digitalisierung führt zu einer Entdifferenzierung, weil sie alle Formen der Ökonomie miteinander verschmilzt. Diversität und Pluralismus erodieren, zuerst in der Wirtschaft, dann aber auch in der Gesellschaft. Gleichzeitig entfallen Alternativen zur herrschenden Logik. Diese fehlenden Redundanzen erhöhen die Krisenanfälligkeit. Dies zeigt sich exemplarisch am Finanzmarkt, in dem regionale Krisen immer globaler werden und die Vernetzung zu Dominoeffekten führen. Als Antwort darauf müssen sich alle Länder zu einer globalen Politik der Finanzwirtschaft verbinden. Die digitale Welt ist zugleich total und instabil. Die Digitalisierung beginnt zwar in der Wirtschaft, wirkt sich aber auf alle Bereiche der Gesellschaft aus.
Die Multis sprechen sich heute bereits unter einander ab, um ein Minimum an Marktregeln zu vereinbaren, z. B. im Bereich der Domain-Rules. Ihr Hauptziel ist aber, die Gefahr gesetzlicher Regelungen durch eigenes Soft Law zu bannen. Sie versuchen zugleich, ihre Reputation zu schützen, indem sie ihren Vereinbarungen den wohlklingenden Titel einer „Partnerschaft der künstlichen Intelligenz zum Wohl von Mensch und Gesellschaft“ verleihen. Selbstregulierung der Mächtigen soll wieder einmal einer echten demokratischen Kontrolle zuvor kommen – und diese verhindern.
c) Politisches Versagen
Die digitale Welt bietet grosse neue Freiräume. Da diese von den Menschen stets in ungleicher Weise genutzt werden können, bedeutet mehr Freiheit auch hier mehr Ungleichheit und mehr Macht weniger über viele. Daher ist es die Aufgabe der Politik, digitale Machtausübung zur Verantwortung zu ziehen und einer freiheitlichen Ordnung zu unterstellen: Freiheit als Macht, die in einen Rahmen von Rechten und Pflichten eingebunden ist. Die digitale Welt muss rechtlich gestaltet werden, wenn sie nicht zu einer Domäne eines Rechts des Stärkeren werden soll.
Bisher versagt die Politik in dieser Aufgabe. So hat der schweizerische Bundesrat bereits zwei von drei versprochenen Berichten zur Digitalisierung veröffentlicht, dabei aber die grundsätzliche Dimension des Themas nicht erfasst. Im Bericht über „Rahmenbedingungen der digitalen Wirtschaft“ vom 11. Januar 2017 etwa geht es nur um die optimale Nutzung der Chancen für die Schweizer Volkswirtschaft. Der Bundesrat will ein positives Umfeld für unsere Unternehmen schaffen, damit unser Land sich im digitalen Strukturwandel behaupten kann. Für digitale Produkte und Dienstleistungen soll möglichst grosser Freiraum bestehen. Der gleichen Strategie folgt der Aktionsplan Digitalisierung, den der Bundesrat am 5. Juli 2017 verabschiedet hat. Bildung und Forschung sollen an die Herausforderungen der Digitalisierung angepasst werden, um die Transformation zur Industrie 4.0 zu unterstützen. Die neoliberale Politik der Deregulierung der Wirtschaft gilt unreflektiert auch für die digitale Welt. Man fühlt sich unweigerlich an die Förderungspolitik zu Anfang der Entwicklung der Kernenergie erinnert. Die Politik scheint aber daraus nicht lernen zu können. Im Gegensatz zu den Computerfirmen vermögen die politischen Behörden den Zusammenhang ihrer Themen nicht zu erkennen und durch intelligente Vernetzung zu nutzen.
Solange das Verantwortungsbewusstsein der Behörden schläft, wird die neue Technologie als Mittel genutzt, um der Politik zu entkommen. Die Wirtschaft verändert die Faktenlage so, dass die Politik sie nicht mehr steuern kann und ihr die Möglichkeit, die Zukunft zu gestalten, genommen wird. Je nachdem, ob dabei das Szenarium der schwachen oder der starken künstlichen Intelligenz zugrunde gelegt wird, sind es die Eigentümer und Manager der Internet-Firmen, die bestimmen, wie die digitale Macht ausgeübt wird – oder es sind die intelligenten Computer, welche den Managern und Eigentümern die Richtung vorgeben.
2. Szenarien
a) Schwache künstliche Intelligenz
Künstliche Intelligenz ist bereits Realität, wenn unter ihr die schwache Form gemeint ist. Dann geht es um die Simulation intelligenten Verhaltens mit Mitteln der Informatik. Künstliche Intelligenz umfasst dann v.a. die Fähigkeit der Geräte zu lernen und ihre Fähigkeit, mit Unsicherheit und Wahrscheinlichkeit umzugehen. Sie dient dazu, konkrete Anwendungsprobleme des menschlichen Denkens zu meistern und das menschliche Denken zu unterstützen. Bespiele sind Navigationssysteme (z. B. GPS), Spracherkennungshilfen oder Korrekturvorschläge bei der Internetsuche. Expertensysteme sind in der Lage, gestützt auf eine ihnen vorgegebene Wissensbasis weiterführende Schlussfolgerungen zu ziehen. Das Urteil darüber verbleibt aber beim handelnden Menschen. Er kann seinen Entscheid freilich im Voraus an das System delegieren, wie dies beim Hochfrequenzhandel an der Börse geschieht, wo der Aktienhandel in Bruchteilen von Millisekunden abgewickelt wird und Korrekturen bei Überschreiten gewisser Bandbreiten vorprogrammiert werden müssen, um Krisen zu verhüten. Die Systemverantwortung verbleibt aber auch hier beim Menschen.
Diese Form der künstlichen Intelligenz bewahrt den instrumentellen Charakter der Informatik. Sie befähigt jene Menschen, die über sie verfügen, Probleme effizienter zu lösen. Die Herrschaft über Weg und Ziel des Informatikeinsatzes verbleibt beim Systemingenieur, der die Programme definiert. Die Macht bleibt somit beim Menschen. Die Kontrolle der schwachen künstlichen Intelligenz muss somit über die Firma laufen, welche über das Instrument der Informatik verfügt. Das Machtproblem ist damit an sich nichts Neues, nimmt aber neue Dimensionen an. Damit schwache künstliche Intelligenz dem Wohl von Mensch und Gesellschaft dient, braucht es neue Formen und Prozesse der Rechenschaftsablage zwischen Wirtschaft, Politik und Gesellschaft (dazu mehr unter Ziffer 3).
Die Gefahr dieser Form von künstlicher Intelligenz liegt v.a. in der Zeitdimension: Wirtschaftliche Oligopole können die Informatikentwicklung exponentiell beschleunigen, ohne wirksamen Gegenkräften ausgesetzt zu sein. Die Entwicklung der Rechtsordnung hinkt immer weiter hinterher und die Gesellschaft entwickelt nur langsam ein Bewusstsein, das sie zur Reaktion befähigt. Auch wenn sich die künstliche Intelligenz nicht zu ihrer starken Form entwickeln sollte, stellt sie eine gewaltige Herausforderung an uns alle dar.
b) Starke künstliche Intelligenz
Unter starker künstlicher Intelligenz wird Unterschiedliches verstanden. Gemeint ist jedenfalls der qualitative Sprung, der die lernende Maschine vom programmierenden Menschen unabhängig macht. Voraussetzung ist eine intellektuelle Leistungsfähigkeit, welche jene des menschlichen Gehirns übertrifft, und die Fähigkeit der Selbstprogrammierung. Das intelligente Gerät ist in der Lage, sich aus Daten seiner Vergangenheit neue Ziele für die Zukunft zu setzen.
Auch wenn die Visionen mancher Forscher aus dem vergangenen Jahrhundert heute von vielen als unrealistisch angesehen werden, sind doch Entwicklungen denkbar, welche der Steuerung durch den Menschen entgleiten. Diese Möglichkeit sollte uns Grund genug sein, uns nach dem Vorsichtsprinzip darauf vorzubereiten. Wenn das Unerwartete tatsächlich eintreten sollte, wäre es für Korrekturen zu spät.
Elemente, aus denen sich eine künstliche Intelligenz zusammensetzen könnte, sind bereits in Entwicklung begriffen. So soll es bald möglich sein, für tausend Franken ein kleines Gerät mit der Rechenkraft eines menschlichen Gehirns zu kaufen. Läuft der Trend weiter, soll es fünfzig Jahre später eines geben, das so viel leistet wie alle Gehirne aller Menschen zusammen (Jürgen Schmidhuber im Tagesanzeiger vom 1. 9. 2016, S. 35). Vertreter der starken künstlichen Intelligenz erwarten, dass Computer dann nicht speziell für eine Aufgabe programmiert werden müssen, sondern die Fähigkeit haben, sich selbst zu verbessern. Die Folge wäre ein rasanter technischer Fortschritt, dem die Menschen verstandesmäßig nicht mehr folgen könnten.
Jason Lanier (Who Owns the Future, New York 2013) erwartet, dass die grössten Computeranlagen der Welt (er nennt sie Siren Servers) ihre Umwelt verändern können, statt sich ihnen anzupassen (Singularität). Als Folge des Oligopols der mächtigen Firmen wird das marktwirtschaftliche Konkurrenzprinzip bereits unter der schwachen Form der künstlichen Intelligenz bedroht. Wenn die intelligenten Grosscomputer der mächtigen Firmen aber autonom werden und die marktbeherrschende Steuerung ihrer Eigentümer beerben, wird aus dem Oligopol unter Menschen eine Interaktion unter Computern. Was an humanem Wettbewerb noch übrig sein mag, wird durch eine automatisierte Planung überlagert. Singularisten vertreten die Ansicht, wir seien auf dem Weg zu einer hybriden Gesellschaft aus menschlichen und künstlichen Akteuren, wobei wir Menschen uns zunehmend dem Computer anpassen müssten.
Die Überlegenheit der Maschine gegenüber dem Menschen beruht dabei weitgehend auf ihrer Effizienz bei der Bewältigung von Zielkonflikten. Für solche Entscheide unter Unsicherheit simulieren intelligente Computer eine Vielzahl von Varianten und wählen daraus nach dem Muster von Versuch und Irrtum jenes Vorgehen aus, das den besten Erfolg verspricht. Statistisch bewährte Lösungen dienen dabei als Grundlage für die zu treffende Entscheidung. Diese wird so schneller und zuverlässiger getroffen als durch einen Menschen. Diese Effizienz ist der Vorteil geschlossener Systeme gegenüber dem offenen Horizont des menschlichen Zweifels, der uns einerseits als Ursprung der Moral gilt, anderseits aber auch als Quelle des subjektiven Irrtums.
Die Programmierung intelligenter Computer beruht auf einer Rationalität, die sich vom Hedonismus leiten lässt: Was für den Menschen Lust und Leid sind, wird für die Computer in verstärkende oder abschwächende Impulse übersetzt. Widerstände oder Grenzen registrieren intelligente Computer als negative Zustände, die sie zu vermeiden suchen, während Erfolge von ihren Sensoren als positiv registriert und vom Computer als verhaltensbekräftigende Belohnung erfahren werden. Dieses Belohnungssystem folgt einer rein ökonomischen Rationalität. Die Roboterlogik führt zu einer Strategie der Maximierung der als positiv registrierten Ergebnisse. Das können auch Imitationen von menschlichen Gefühlen wie Liebe oder Humor sein. Roboter können alles maximieren, was in ihre Logik übersetzt ist.
Auf der Stufe der schwachen künstlichen Intelligenz können Roboter dem Menschen die Auseinandersetzung über humane Ziele und Werte nicht abnehmen. Falls der qualitative Sprung aber einmal eintreten sollte, könnte es geschehen, dass die Roboterlogik die digitale Welt so sehr beherrscht, dass menschlicher Widerspruch nicht mehr wirksam wäre. Umso mehr sind wir bereits heute gefordert, unsere Führungsverantwortung für das Handeln der Roboter ernst zu nehmen. Wir müssen ihnen klare Ziele vorgeben und die von ihnen dazu entwickelten Mittel auf ihre Zielkonformität hin überprüfen. Die Digitalisierung verschärft damit die Ziel- und Wertkonflikte unter uns Menschen. Wir können uns immer weniger erlauben, Entscheide auf der pragmatischen Mittelebene zu treffen und die damit implizierten Richtungsentscheide auf der Zielebene im Unklaren zu lassen. Insbesondere können wir nicht mehr nur nach Nützlichkeitskriterien handeln, wenn wir nicht riskieren wollen, dass Gerechtigkeitskriterien untergehen. Der Kategorie der Interessen müssen wir die Kategorie der Rechte voranstellen.
Praktisch wird es letztlich darum gehen, dass die Systemingenieure den Robotern beim Programmieren die Verantwortungsfrage stellen: Werden intelligente Computer mit Sensoren für ihre Wirkung auf Dritte, insbesondere Menschen, Tiere und Umwelt, ausgestattet – oder bleiben sie einseitig auf die Maximierung ihres eigenen Subsystems ausgerichtet? Nur wenn sie ein Sensorium für die negativen Drittwirkungen haben, können sie auf Gerechtigkeitsfragen programmiert werden und auf andere Rücksicht nehmen. Dazu müssen sie mit den dafür relevanten Kriterien gefüttert werden. Zudem müssen die Programme stets eine Kontrollmöglichkeit durch den Menschen vorsehen. Entsprechende Rückkoppelungsprozesse müssen dem Programmierer stets ein Eingreifen in die automatischen Abläufe ermöglichen. Künstliche Intelligenz muss in ihren Verfahren und Ergebnissen für den Menschen transparent und korrigierbar sein. Sie muss dem Nachhaltigkeitsgebot unterstellt werden, das keine irreversiblen Entscheide duldet. Die Gesellschaft muss der digitalen Welt ihre Bedingungen auferlegen. Sonst besteht die Gefahr, dass entweder die mächtigen Firmen oder gar die Computer den Menschen ihre Bedingungen diktieren. Unsere kulturelle Entwicklung steht vor der Herausforderung, humane Werte in einer digitalen Welt zur Geltung zu bringen.
Schafft sie dies nicht sondern überlässt die Entwicklung dem Markt, so wird auch eine intelligente Maschine nur ihrer technischen Rationalität folgen und die Logik, der sie dient, nicht hinterfragen. Die ihr eingepflanzte Nützlichkeitslogik wird sich der Marktideologie unterordnen. Der Wettbewerb unter Robotern wird sich nur auf die effiziente Behauptung am Markt ausrichten. Eine Rücksichtnahme auf andere Werte bleibt dann ausser Betracht.
c) Gesellschaftliche Gegenbewegung
Die Gefahr einer digitalen Diktatur schreckt bereits heute viele Menschen auf. In Teilen der Bürgerschaft entsteht das Bewusstsein, dass die Entwicklung nicht ungebremst weiter laufen darf. Zivile Gegenkräfte fordern eine Digitalisierung nach menschlichem Mass.
Beispiele für Korrekturen an einer ungehemmten technischen und ökonomischen Entwicklung gibt es schon heute, z. B. gegenüber der masslosen Globalisierung der Wirtschaft oder dem Überborden der Finanzmärkte. Beide haben eine Gegnerschaft geweckt, die sich dem Glauben an die Machbarkeit eines grenzenlosen Fortschritts widersetzen. Die Organisationen der Globalisierungsgegner haben es geschafft, einen weltweiten Diskurs über Sinn und Grenzen des wirtschaftlichen Wachstums auszulösen. Sie sind vom blossen Aussenseiter zum Player geworden, der nicht mehr übergangen werden kann. Sie haben ihr Thema in die Institutionen von Politik und Wirtschaft hineingetragen. Die Gegner einer Dominanz des Finanzmarktes über Realwirtschaft und Politik versuchen, diesem Beispiel zu folgen. Attac oder Occupy Wallstreet („We Are the 99%!“) haben zwar nicht den gleichen Erfolg, folgen aber einem ähnlichen Muster: Organisationen der Zivilgesellschaft mobilisieren die Öffentlichkeit zu einer Gegenkraft gegen einen eindimensionalen technischen und wirtschaftlichen Fortschritt.
Eine ähnliche Mobilisierung ist auch im Bereich der Digitalisierung denkbar. Sie kann sogar aus den gleichen Bewegungen kommen, die sich gegen Globalisierung und Finanzialisierung richten. Es braucht dazu nicht einmal eine Totalopposition. Die Mittel der Digitalisierung können auch zu ihrer Begrenzung eingesetzt werden. Die Technik der Suchmaschinen lässt sich z. B. für die Erkennung von Missbräuchen im Internet nutzen. Wenn Facebook selbstlernende Software entwickelt, um Fake-News zu entlarven, können zivilgesellschaftliche Organisationen solche Programme auch nutzen, um die Wahrhaftigkeit in Politik und Wirtschaft zu testen. Die Digitalisierung ist ein Potential, das sich auch für humane Zwecke nutzen lässt.
3. Ein Konzept der Zivilisierung
a) Neue Probleme erfordern neue Lösungsprozesse
Die digitale Welt bietet Chancen für zivilgesellschaftliche Bewegungen, welche sich für eine humane Entwicklung einsetzen. Vom arabischen Frühling bis zu den weltweiten Protesten gegen den US-Präsidenten Donald Trump bilden sich spontane Aktionen über Aufrufe im Internet. Dieses eignet sich sehr für Bottom-up Prozesse, welche demokratisches Potential besitzen. Aber Demokratie ist mehr als Internet-Kommunikation. Das Problem solcher spontaner Bewegungen ist, dass sie nicht nachhaltig sind. Wie ein Strohfeuer machen sie etwas sichtbar, vergehen aber nach kurzer Zeit. Sie haben starke emotionale Kraft, bewirken aber auf Dauer wenig.
Die Hauptfrage einer Antwort auf die digitale Welt ist daher, wie sich die Emotionen einer kritischen Öffentlichkeit zu einer Argumentationskultur entwickeln lassen. Internet-Bewegungen müssen zu diesem Zweck zu einer digitalen deliberativen Demokratie institutionalisiert werden.
Institutionalisierung bedeutet dabei nicht Einbindung in die staatlichen Strukturen im Sinne des parlamentarischen politischen Prozesses der Vergangenheit. Qualitativ neue Probleme dürfen nicht in veralteten Strukturen angegangen werden. Neue Probleme erfordern auch neue Lösungsprozesse. Insbesondere dann, wenn sich gezeigt hat, dass die herkömmlichen politischen und wirtschaftlichen Machtstrukturen nicht in der Lage sind, das neue Problem zum Wohl der Gesellschaft zu lösen, muss nach neuen Trägern, Formen und Medien gesucht werden, welche die herkömmliche Machtorganisation herausfordern.
b) Die Macht der Zivilgesellschaft
Das Versagen von Wirtschaft und Politik bei der Aufgabe der Humanisierung der digitalen Welt scheint schon heute erkennbar. In beiden Bereichen gibt es zwar Individuen und Gruppen, die sich darum bemühen, eine lebensdienliche Ordnung herzustellen. Im Wesentlichen werden beide Teilbereiche der Gesellschaft aber top-down statt bottom-up gesteuert. Die Macht ist beidseits oligarchisch organisiert. Die herrschenden Strukturen sind nicht bereit, sich von innen heraus verändern zu lassen. Es braucht eine dritte, äussere Kraft, welche sie dazu zwingt, sich zu wandeln.
Die einzige heute erkennbare solche Kraft liegt in der Zivilgesellschaft. Diese besteht zwar aus den gleichen Menschen, die auch in Wirtschaft und Politik aktiv sind. Aber Menschen können Träger von Mehrfachfunktionen sein. Ausserhalb ihrer Machtfunktionen in Wirtschaft und Politik handeln sie in Kontexten der Freiwilligenarbeit, in denen sie gesellschaftsrelevante Aufgaben wahrnehmen. Sie gewinnen darin Distanz zu ihren beruflichen Funktionen und entwickeln Perspektiven und Standpunkte, die als Korrektiv zu den funktionalen Systemen, in denen sie arbeiten, dienen können.
Zivilgesellschaftliche Organisationen können in der digitalen Welt das Bewusstsein der Humanität aufrechterhalten, indem sie eine Öffentlichkeit schaffen, welche Druck auf die grossen Informatikfirmen ausübt. Amazon, Apple, Facebook, Google und Microsoft können motiviert werden, Normen und Standards für intelligente Computer zu setzen, welche humane Werte respektieren.
Voraussetzung dafür ist die Entwicklung einer demokratischen Kultur, welche den Staatsbereich übersteigt und auch in Wirtschaft und Gesellschaft Geltung erlangt. In allen drei Bereichen braucht es Prozesse der Transparenz und Partizipation, welche dafür sorgen, dass sowohl die Autonomie des Menschen wie der Pluralismus menschlicher Werte bei aller Vernetzung gewahrt bleiben und jeder Bereich sowohl seine Eigenart behält wie seinen Einfluss auf die andern geltend machen kann. Es braucht eine Gewaltenteilung zwischen Staat, Wirtschaft und Gesellschaft[i]. Motor dieses Prozesses in der digitalen Gesellschaft müssen Organisationen der Zivilgesellschaft sein. Sie allein können den kulturellen Entwicklungsprozess zur „digitalen Mündigkeit“ anstossen: zur Befähigung des Menschen, mit künstlicher Intelligenz so umzugehen, dass die humanen Werte erhalten und gefördert werden.
Eine globale Einigung über den Inhalt dieser humanen Werte ist unwahrscheinlich, aber auch nicht erforderlich. Es genügt eine übereinstimmende Reaktion auf elementare Verletzungen. Diese Reaktion lässt sich beispielshaft schon heute erkennen, etwa an der Empörung über die Machenschaften der Cambridge Analytica zur Manipulation der Wahlberechtigten. Der Anlass zu solchem Widerstand wird in Zukunft zunehmen, denn mit dem Fortschreiten der totalen Vernetzung ist allenthalben ein Verlust an Identität und Autonomie zu erwarten. Es zerfliessen die Grenzen zwischen den Akteuren in Wirtschaft, Staat und Gesellschaft. Die Identifikation des Menschen mit klaren Rollen und Kulturen wird gefährdet. Damit steht seine individuelle und soziale Gestaltungsfreiheit auf dem Spiel. Er fühlt sich in seiner Menschenwürde verletzt. Die Reaktion darauf kann sich je nach Kultur zwar ganz unterschiedlich äussern. Das hindert die globale Verbreitung des Widerstands jedoch nicht. Die Verteidigung von Autonomie und Pluralismus stützen einander dabei.
Die Zivilgesellschaft hat somit das Potential zu einem Korrektiv der eindimensionalen technischen und ökonomischen Entwicklung der digitalen Welt. Ihre Stärke liegt in ihrer Sensibilität und Flexibilität. Sie vermag rechtzeitig auf Verletzungen ihrer Lebensformen zu reagieren. Sie entwickelt ihre Impulse in offenem digitalem Austausch und nutzt so die Schwarmintelligenz aller Teilnehmenden, in der sich das Wissen und die Meinungen der Vielen zu einem intelligenten Verhalten summieren können. Sie ist damit äusserst kreativ. Ihre Schwäche aber sind die mangelhafte Kohärenz und die fehlende Nachhaltigkeit ihrer Aktionen. Wenn sie als relevante Macht im Verhältnis zu Wirtschaft und Politik eigene Strategien entfalten soll, muss sie ein Gleichgewicht zwischen Spontaneität und Institutionalisierung entwickeln.
c) Institutionelle Mechanismen
Damit sind die beiden wichtigsten Anforderungen an die Institutionalisierung der Zivilgesellschaft benannt: Einerseits braucht es Strukturen und Verfahren, welche die Wirksamkeit zivilgesellschaftlicher Aktionen stützen. Anderseits dürfen diese die Sensibilität und Spontaneität dieser Aktionen nicht gefährden. Denn in dem Masse, in dem Organisationen der Zivilgesellschaft hierarchische Strukturen und gefestigte Prozesse interner Machtausübung ausbilden, verlieren sie ihre Dynamik und verdichten sich wie die politischen Parteien zu sich primär selbst erhaltenden Gebilden. Gesucht ist somit jenes Minimum an Hierarchie, das ein Optimum an äusserer Wirksamkeit und innerer Flexibilität verspricht.
Für das Gleichgewicht zwischen äusserer Stärke und innerer Beweglichkeit gibt es kein allgemein gültiges Rezept. Jede Organisation muss ihre eigenen Formen und Prozesse finden. Aber das Internet kann dafür genutzt werden, diese Strukturen flach zu halten. Es kann die transparente und offene Meinungsbildung unter den Beteiligten fördern, wenn die Organisation dies will und demokratisch verfasst ist. So lässt sich ein Optimum an Aktivität bei einem Minimum an interner Machtbildung erreichen.
Die Aussenwirkung auf die digitale Welt kann verschiedenste Gesichter annehmen. Wiederkehrende Proteste, Manifeste oder Petitionen auf virtuellen Plattformen wie auf der Strasse können eine Öffentlichkeit schaffen, vor welcher sich Politik und digitale Wirtschaft rechtfertigen müssen. Der öffentliche Druck kann die grossen fünf Multis veranlassen, eine Selbstregulierung zu treffen, welche nicht nur die gemeinsamen ökonomischen Interessen, sondern auch die humanen Ansprüche an die digitale Welt ernst nimmt. Zivilgesellschaftliche Organisationen können darüber mit den Multis in einen Dialog treten und die Lösungen mitgestalten. Sie können darüber hinaus selbst „Soft Law“ kreieren, also Rechtsnormen, welche zwar nicht staatlich durchsetzbar sind, aber als Standard richtigen Verhaltens von den Mutlis anerkannt und angewendet werden. Solche weiche Regeln erlangen insbesondere dadurch Wirksamkeit, dass sie einen Rechtfertigungsdruck bei Abweichungen vom Standard schaffen. Gelingt es, Transparenz über die Verhaltensweisen der Firmen herzustellen, lassen sich eigentliche Rankings schaffen, die einen Wettbewerb um humane Digitalisierung auslösen.
Wenn die zivilgesellschaftlichen Organisationen zu einem weltweit anerkannten Player im Machtspiel der digitalen Welt werden, besteht zudem die Möglichkeit ihrer Einflussnahme auf die Vereinten Nationen. Die NGOs können ein Statut humaner Digitalisierung entwerfen, welches von der Generalversammlung der UNO in die Form einer Resolution gegossen wird. Darin können die Staaten und die Unternehmen der digitalen Wirtschaft aufgefordert werden, regelmässig über den Grad der Erfüllung von Standards des digitalen Soft Laws Rechenschaft abzulegen und Massnahmen der Humanisierung aufzuzeigen. Damit wird das digitale Recht in den Status von Völkerrecht erhoben.
Parallel dazu können zivilgesellschaftliche Initiativen auch auf nationaler Ebene ergriffen werden. Die Grundsätze der humanen Digitalisierung lassen sich auf dem Gesetzgebungsprozess ins Landesrecht einbringen und gerichtlich durchsetzen. Aus der Vielzahl von Normen eines Statuts humaner Digitalisierung seien nur einige beispielhaft herausgegriffen:
- Transparenz der Kriterien, mit denen Zielkonflikte digital gelöst werden
- Vorgeschriebener Pluralismus dieser Kriterien unter Einschluss von Rechtsansprüchen Betroffener und von Gerechtigkeitsprinzipien (Sensorium für die Wirkung auf Dritte)
- Prozesse der Kontrolle und Korrektur von Programmen der künstlichen Intelligenz
- Einsichtsrechte Betroffener in ihre digitalen Profile
- Verfahren, in denen jeder die Auflösung seiner Filterblase erwirken kann
- Verfahren zur Aufdeckung von Manipulationsversuchen der Meinungsbildung von Stimmberechtigten durch gezielte Information gestützt auf ihr Internetprofil
- Wettbewerbsregeln zur Begrenzung der Marktmacht der digitalen Firmen
- Antrags- und Beschwerderechte von Organisationen der Zivilgesellschaft.
Alle solchen Versuche, das Ziel der humanen Digitalisierung in Rechtsnormen zu fassen, werden beachten müssen, dass inhaltliche Regeln und Prinzipien im Gesetzgebungsprozess meist zu spät kommen. Materielle Regulierung vermag die Dynamik der Digitalisierung nicht zu fassen. Der Mangel der rechtsstaatlichen Demokratie, der in ihrer Langsamkeit liegt, wirkt sich hier besonders negativ aus. Nirgends so sehr wie hier muss materielle Regulierung durch Prozessteuerung ersetzt werden. Statt zu sagen, was richtig ist, muss ein faires Verfahren normiert werden, in welchem das Richtige unter Betroffenen vereinbart werden kann. Z.B. braucht es Mitwirkungsrechte zivilgesellschaftlicher Organisationen bei der Definition der Programmierungskriterien der grossen digitalen Firmen. Es braucht eine (nationale wie internationale) Verfassung der gesellschaftlichen Gewaltenteilung im digitalen Bereich: einen institutionalisierten Diskurs zwischen Politik, Wirtschaft und Zivilgesellschaft über die humane Digitalisierung.
Freilich kommen auch solche Normen der Prozessteuerung möglicherweise zu spät, wenn sie in nationalen und internationalen Verfahren der Rechtssetzung erlassen werden müssen. Auch sie werden am besten durch die Macht der Zivilgesellschaft erzwungen. Das stärkste Druckmittel zivilgesellschaftlicher Organisationen gegen die Wirtschaftsmächte der digitalen Welt in diesem Prozess der Heranbildung von Rechtsnormen bleibt dabei die Angst der Firmen vor Reputationsschäden. Die Firmen wissen, dass ihre Akzeptanz beim direkten Kundenkreis ihr grösstes Kapital ist. Wenn die Nutzer der digitalen Angebote gegen bestimmte Praktiken der Firmen mobilisiert werden können, lässt sich eine wirksame Gegenmacht gegen inhumane Entwicklungen aufbauen. Gerade Internetfirmen sind unmittelbar vom breiten Publikum der Nutzer und allenfalls von bestimmten Zielgruppen ihrer Angebote abhängig. Diese müssen und können von den zivilen Kritikern direkt angesprochen werden. Im Internet lassen sich Betroffene gut zu Beteiligten machen.
4. Ergebnis
Die digitale Welt stellt die Menschheit vor ein neues Verantwortungsproblem. Wir brauchen demokratische Prozesse, welche die Systemingenieure und über sie die intelligenten Computer zur Rechenschaft darüber zwingen, wie sie die exponentiell wachsende Kapazität der technischen Mittel in den Dienst der Werte der Gesellschaft stellen. Diese aus humaner Warte notwendige Mässigung der digitalen Welt kann weder von der Wirtschaft noch von der Politik allein erwartet werden. Es braucht den Aufbau einer dritten Gewalt aus dem Kreise der Zivilgesellschaft. Diese muss gegenüber Wirtschaft wie Politik Anstoss zu verantwortungsvollem Handeln geben, dieses begleiten und kontrollieren. Es braucht einen Prozess der gesellschaftlichen Gewaltenteilung, in dem jede Macht ihre Funktion wahrnehmen kann, aber von den andern begrenzt und kontrolliert wird. Im gewaltenteiligen Dreieck von Staat, Wirtschaft und Zivilgesellschaft besteht die Chance, einen dynamischen Prozess auszulösen, der die digitale Entwicklung nach menschlichem Mass steuert.
[i] Philippe Mastronardi, Demokratie in der Krise. Konzept einer möglichen Reform, in: Daniel Brühlmeier / Philippe Mastronardi (Hrsg.), Demokratie in der Krise. Analysen, Prozesse und Perspektiven, Zürich (Chronos) 2016, S. 457 – 471.