PERSON OF INTEREST – SICHERHEIT STATT DEMOKRATIE – EVOLUTION IST ANDERS – Teil 2

KONTEXT

  1. In einem vorausgehenden Blogeintrag hatte ich die Fernsehserie Person of Interest mit diskutiert. Zu dem Zeitpunkt kannte ich nur Staffel 3; mittlerweile kenne ich auch Staffel 4, die aktuell letzte Staffel der Serie. Wie schon zuvor angemerkt, kann man eine Fernsehserie nicht mit einem normalen Kinofilm vergleichen; die Spielregeln für die Anordnung der Bilder und Inhalte sind anders. Eine Serie lebt von ihren Episoden, zwischen denen Pausen liegen, und eine Serie scheut ein klares Ende, lauern doch wirtschaftliche Interessen im Hintergrund, die ein Hinauszögern so lange wie möglich aufrechterhalten wollen. Neben der Story ist eine Serie ein Unterhaltungsmedium und eine Geldquelle, die möglichst lange erhalten bleiben soll.

MAKRO-MIKRO-EBENE

  1. Fragt man also nach dem möglichen Inhalt der Serie Person of Interest, muss man wenigstens zwischen einer Makro- und einem Mikroebene unterscheiden (schließt weitere Ebenen nicht aus): auf der Makroebene werden Geschichten erzählt, die sich über mehrere Episoden erstrecken; auf der Mikroebene liegt das Geschehen, was sich auf eine Episode beschränkt. Das Verhältnis zwischen Makro-Geschichte(n) und Mikro-Geschichten könnte man als einen Indikator für die Kompaktheit einer Serie ansehen: wie intensiv wird eine Geschichte erzählt. Im Fall von Person of Interest Staffeln 3+4 würde ich das Verhältnis von Makro zu Mikro-Geschichten auf etwa 1:3 bis 1:4 ansetzen. Die Kompaktheit kann auch etwas mit der Aufnahmefähigkeit der Zuschauer zu tun haben; je kompakter, um so ansruchsvoller.

MAKRO-GESCHICHTE

  1. In der Makrogeschichte, die nur häppchenweise enthüllt wird, geht es um zwei Computerprogramme, die die Datenströme in den verschiedenen Netzen aufnehmen und verarbeiten können; darüber hinaus konstruieren diese Programme eigene Modelle, mit denen diese Daten interpretiert werden und – vor allem – Schlüsse gezogen werden, was zu tun ist. Dieses Tun geschieht direkt über Manipulation von Datenströmen in den Netzen oder über Interaktion mit realen Menschen, die über die Kommunikation mit der Maschine ihre Meinungen bilden und sich in ihrem Verhalten beeinflussen lassen.
  2. Interessant ist der soziale-politische Kontext dieser Programme: das erste Programm, genannt die Maschine, wurde ursprünglich von der Regierung beauftragt und eingesetzt, um Bedrohungen für den Staat frühzeitig zu entdecken und abzuwehren. Sein Hauptentwickler E1 hatte es mit einigen ethischen Prinzipien ausgestattet, die den schlimmsten Missbrauch verhindern sollten. Das zweite Programm, parallel entwickelt von einem Freund von E1, nennen wir ihn E2, war unvollendet geblieben und besaß keine ethischen Vorgaben. Dieses Programm wurde von einem machtbewussten Geschäftsmann – nennen wir ihn G1 – gewaltsam in eigenen Besitz gebracht. Zusätzlich konnte er Regierungsvertreter überzeugen, dass er im Auftrag der Regierung – aber in eigener Regie – die verschiedenen Netze anzapfen durfte, um für die Regierung eine Überwachung der Welt durchführen zu können, deren Ergebnisse dann der Regierung übermittelt werden. Vorbereitend zum Start des neuen Programms mit Namen Samaritan hatte der Geschäftsmann G1 eine Terrorgruppe gesteuert, die die Regierung unter Druck gesetzt hatte, das alte Programm, die Maschine, zu stoppen. Wie sich im Verlaufe von Staffel 3+4 herausstellte, hatte es die Maschine aber geschafft, sich mittlerweile als verborgenes Add On in jeden Computer und in das öffentliche Stromnetz einzunisten. Dort war es für das neue Programm Samaritan lange Zeit unsichtbar und arbeitete parallel zum neuen Programm weiter.

MIKRO-GESCHICHTEN

  1. Der hohe Anteil an Mikro-Geschichten, oft sehr fragmentarisch, ist unterhaltsam gemacht, trägt aber wenig zur Hauptgeschichte bei. Allerdings bieten die Mikrogeschichten Raum um die Hauptpersonen häppchenweise ein wenig mehr auszuleuchten, die Verwicklungen ihrer Psyche, ihrer Motive und Emotionen sichtbar zu machen. Die dominierenden Muster von Gewalt, Action und Erschießung anderer Menschen werden hier ansatzweise durchbrochen, um die individuellen Menschen hinter den abstrakten Rollen etwas sichtbar zu machen. Doch ereignet sich die Handlung meistens in extremen Milieus mit extremen Typen; Normalität, Alltag, reale Gesellschaft kommt in dieser Serie so gut wie nicht vor. Die Mikrogeschichten könnten auch in jeder anderen Serie vorkommen.

MAKRO-GESCHICHTE: FRAGEN

  1. Die Makrogeschichte, sofern sie stattfindet, bietet viele interessante Fragestellungen. Die eine Frage (F1) ist jene nach der Reichweite einer autonomen selbstlernenden künstlichen Intelligenz [KI]: wie weit kann diese sich der Kontrolle von Menschen entziehen und sich vom Diener zum Herren des Geschehens entwickeln? Zusätzlich kann man fragen (F2), welche Ziele solch eine autonome selbstlernende KI entwickeln wird? Was werden die Präferenzen solcher Programme sein? Was finden sie gut, was schlecht? Dazu viele weitere spezielle Fragen im Detail.
  2. Während das erste Programm, die Maschine, den Eindruck erweckt, als ob es, trotz seiner Autonomie, gewisse ethische Prinzipien einhält (es ist nicht ganz klar, welche und warum), erweckt das zweite Programm, Samaritan, den Eindruck, als ob es sich sehr schnell zum Herren des Geschehens entwickelt und von einem reinen Dienstleister zum kreativen Machthaber mutiert, der nach einigen gezielten Experimenten planvoll in das Weltgeschehen eingreift. Am Schluss von Staffel 4 sieht es so aus, als ob Samaritan direkt eine Weltherrschaft in seinem Sinne anstrebt. Das erste Programm, die Maschine, wurde schließlich doch aufgespürt und in buchstäblich letzter Minute konnte es aus dem öffentlichen Stromnetz auf einen tragbaren Computer heruntergeladen und mit seinen Kernalgorithmen gesichert. Wie es jetzt weitergeht, ist offen.

DISKURS

  1. Die technischen Details dieses Plots sind nicht wichtig, wohl aber die großen Linien. Beide Computerprogramme entwickeln ihre Kraft erst, als ihre Algorithmen an entsprechende Netze mit Datenströmen angeschlossen wurden. Ohne Daten laufen alle Algorithmen leer, und ohne Daten würde auch ein menschliches Gehirn verkümmern und der Körper absterben.
  2. Da Algorithmen aus sich heraus nicht wissen können, was Wahr in der Welt ist, brauchen sie reale Daten der realen Welt, anhand deren sie entscheiden können, was Wahr in der Welt ist. Wenn diese Daten korrupt sind, gefälscht, Täuschungen, dann läuft der Algorithmus ins Leere (das geht unserem Gehirn nicht besser: unser Gehirn ist nur über Sinnesorgane mit der Welt da draußen verbunden; wenn wir die Welt falsch oder unvollständig wahrnehmen, sind auch die Weltbilder des Gehirns falsch oder unvollständig). Daher die Tendenz, immer mehr Datennetze anzuzapfen, immer mehr Überwachung von realen Personen zu ermöglichen, bis dahin, dass (für Samaritan) realen Personen Sonden einoperiert werden, die wichtige Zustände dieser Personen direkt an den Algorithmus übermitteln.
  3. Am Ende von Staffel 4 wird der Zuschauer in einer diffusen Vielfalt von technischen Möglichkeiten, potentiellen Bedrohungen, und vagen Heilsversprechen zurück gelassen. Was die Bedrohungen angeht, so sind diese heute schon sehr real. Nach verfügbaren Informationen muss man davon ausgehen, dass die US-Regierung seit mindestens fünf Jahren mit solchen totalen Überwachungsprogrammen experimentiert; komplementiert werden diese Algorithmen durch die geschäftlichen Interessen global operierender Firmen, die mit den Verhaltensdaten von Privatpersonen und Firmen real Geld verdienen. Um an diese Daten heran zu kommen, gibt es nicht nur die öffentliche Überwachung durch immer mehr Videokameras und Überwachung von Datenverkehr in den Netzen und durch Satelliten, sondern zusätzlich immer mehr Sensoren in den Alltagsgeräten und privaten Kommunikationsgeräten. Ergänzt um Datenbrillen bei jedem ist schon jetzt die Überwachung fast total.
  4. Sieht man diese Entwicklung parallel zur Tatsache, dass nur wenige Staaten dieser Erde demokratisch genannt werden können und dass diese wenigen demokratischen Staaten deutliche Tendenzen aufweisen, zur Aushöhlung aller demokratischen Mechanismen der Machtkontrolle, dann ist diese Entwicklung verheerend. Die Kontrolle des Datenraums ist mittlerweile weit schlimmer als der Einmarsch einer Armee mit Panzern. Bei den verantwortlichen Politikern kann man dafür praktisch kein Problembewusstsein erkennen. Speziell im Fall der US-Regierung muss man sich sogar fragen, ob die jeweiligen Präsidenten nicht schon längst nur Marionetten eines außer Kontrolle geratenen Sicherheitsapparates sind.
  5. Die Staffeln 3+4 illustrieren diese Tendenzen und Möglichkeiten durch Inszenierung entsprechender Situationen und Handlungssequenzen. Sie bieten aber keine wirkliche theoretisch-technische Erklärungen, liefern keine Denkansätze in Richtung politischer Systeme oder Wirtschaftsmodelle. Der Zuschauer verbleibt in der Rolle des passiven, dummen Konsumenten, dem das Schauspiel einer Machtübernahme geboten wird, ohne Ansatzpunkt, was er selber denn tun könnte. Die einzigen Hacker, die in der Serie auftauchen, waren böse und letztlich gesteuert von anderen Bösen. Die wenigen Guten, die zumindest das Wort Individuum und Wert des Einzelmenschen im Munde führen, wirken wie ein Häuflein verirrter Privatpersonen im Format von Profikillern, keine normalen Bürger, und die Moral von der Geschichte lautet eher: schließe dich dem allgemeinen Trend an. Widerstand zwecklos. Dann wäre das ganze ein Werbefilm für die Einführung der totalen Kontrolle zum angeblichen Nutzen für die ganze Menschheit.
  6. Betrachtet man den evolutionären Zusammenhang der Geschichte des Lebens auf der Erde, dann erscheint eine zunehmende Vernetzung und Einsatz von Algorithmen zur Unterstützung der Menschen in der rapide anwachsenden Komplexität in der Tat unausweichlich. Allerdings kann man sich fragen, ob dieser evolutionärer Schub darin bestehen soll, die fantastische Kreativität menschlicher Gehirne zu eliminieren durch Versklavung an einen unkontrollierten Algorithmus, dessen Dynamiken noch keiner wirklich erforscht hat, oder aber dass man diese neuen digitalen Technologien nutzen würde, um die Kreativität der Menschen für die Gesamtheit des Lebens noch mehr nutzen zu können. Bei ca. 100 x 10^9 Nervenzellen in einem einzelnen Gehirn würde eine Verknüpfung dieser Gehirne bei z.B. 7 x 10^9 Menschen auf der Erde zu einem Zusammenwirken – im optimalen Fall – von 7 x 10^20 Nervenzellen führen können. Diese können alle, wenn man es erlaubt und unterstützt, kreativ sein. Welch ungeheure Kraft um die Zukunft zu gestalten. Stattdessen hat man den Eindruck, dass viele Mächtige heute versuchen, diese große Kreativität zu normieren, zu eliminieren, unter Kontrolle zu bringen, nur, um die mehrfach beschränkten und auf Konkurrenz und Freund-Feind-Schema getrimmten Weltmodelle einzelner Sicherheitsleute, Militärs, Politiker und Kapitaleigner in den Köpfen der Menschen zu implantieren. Man kann nicht erkennen, dass irgendwelche Werte, geschweige den die Menschenrechte, dabei eine Rolle spielen.
  7. Unter dem Schlagwort Sicherheit ist mittlerweile alles erlaubt. Warum also noch Sicherheit, wenn gerade sie alles zerstört, was man vielleicht schützen wollte? Wie viel Sicherheit verträgt eine Demokratie?
  8. Die Geschichte des Lebens auf der Erde enthält eine klare unmissverständliche Botschaft: Leben kann es nachhaltig nur geben, wenn die die Kreativität stärker ist als die Sicherheit! Totale Sicherheit führt direkt zum Tod des Systems.

Über cagent

Bin Philosoph, Theologe, Kognitionswissenschaftler und hatte seit 2001 eine Vertretungsprofessur und ab 2005 eine volle Professur im Fachbereich Informatik & Ingenieurswissenschaften der Frankfurt University of Applied Sciences inne. Meine Schwerpunke ab 2005 waren 'Dynamisches Wissen (KI)', 'Mensch Maschine Interaktion (MMI)' sowie 'Simulation'. In dieser Zeit konnte ich auch an die hundert interdisziplinäre Projekte begleiten. Mich interessieren die Grundstrukturen des Lebens, die Logik der Evolution, die Entstehung von Wissen ('Geist'), die Möglichkeiten computerbasierter Intelligenz, die Wechselwirkungen zwischen Kultur und Technik, und der mögliche 'Sinn' von 'Leben' im 'Universum'. Ab 1.April 2017 bin ich emeritiert (= nicht mehr im aktiven Dienst). Neben ausgewählten Lehrveranstaltungen ('Citizen Science für Nachhaltige Entwicklung' (früher 'Kommunalplanung und Gamification. Labor für Bürgerbeteiligung')) arbeite ich zunehmend in einem integrierten Projekt mit Theorie, neuem Typ von Software und gesellschaftlicher Umsetzung (Initiative 'Bürger im Gespräch (BiG)). Die einschlägigen Blogs sind weiter cognitiveagent.org, uffmm.org sowie oksimo.org ... ja, ich war auch mal 'Mönch', 22 Jahre lang mit viel Mystik, Theologie und Philosophie; dabei u.a. einige Jahre Jugendsozialarbeiter.