„Technische Superintelligenzen werden die Menschheit bedrohen“ – Wie kann man eine so absurde Behauptung aufstellen?

Science-Fiction-Visionen von intelligenten oder gar superintelligenten Maschinen haben eine lange Historie. Besonders in der Hype-Phase der so genannten „Künstlichen Intelligenz (KI)“ in den 1960-1980er Jahren waren Behauptungen en vogue, dass Computeranwendungen die Menschheit in Bezug auf ihre Intelligenz bald einholen oder gar überholen werden – mit unabsehbaren Folgen und Bedrohungen für die Menschheit. “Once the computers got control, we might never get it back. We would survive at their sufferance. If we’re lucky, they might decide to keep us as pets”, meinte z.B. Marvin Minsky im Jahr 1970.

Als Zeithorizont für solche technische Superintelligenzen werden gerne ca. 10-30 Jahre angegeben – egal wann so etwas behauptet wurde. Dieser Zeitrahmen ist anscheinend nah genug, um genug Aufmerksamkeit zu erregen und weit genug weg, um für die Gültigkeit der Behauptungen nicht mehr gerade stehen zu müssen.

Ich habe den Eindruck, dass Behauptungen über technische Superintelligenzen aktuell wieder eine Hochzeit erleben. Dabei werden sie nicht nur von Hollywood, sondern auch von Wissenschaftsjournalisten dankbar aufgegriffen und verwertet. Dass sich frühere Prognosen dieser Art als falsch herausgestellt haben, spielt dabei keine Rolle. Gerne wird auf „Experten“ verwiesen, die sich diesbezüglich (alle) längst einig seien und nur im exakten Zeitpunkt noch nicht ganz sicher seien.

Durch die Frage wann es so weit sei, wird die Diskussion um das „ob“ meiner Meinung nach völlig vernachlässigt. Ich bin Informatiker. Ich beschäftige mich seit über 30 Jahren mit KI, entwickle seit mehreren Jahren KI-Anwendungen für den Unternehmenseinsatz und veröffentliche darüber Artikel und Bücher. Demnach halte ich mich für einen KI-Experten. Und nach meiner Meinung sind Behauptungen von technischen Superintelligenzen absurd.

Derzeit arbeite ich in einem KI-Projekt, in dem wir Software für Ärzte entwickeln, die Krebspatienten behandeln. Ein schöner Nebeneffekt der Arbeit an diesem Projekt ist, dass ich mein Schulwissen in Biologie und insbesondere Genetik auffrischen durfte. Während das früher für mich trockener Schulstoff war, kann ich jetzt nachvollziehen, warum die Ursprünge des Lebens Menschen faszinieren. Ich hatte einige Aha-Effekte, was sie Vielschichtigkeit, Vernetzung und Dynamik von Prozessen des natürlichen Lebens betrifft. Ich möchte diese laienhaft kurz mitteilen, um sie anschließend KI-Anwendungen gegenüberzustellen.

Es gibt chemische und physikalische Grundsätze, nach denen sich Atome zu Molekülen bzw. Molekülketten zusammensetzen – quasi mechanisch nach festen, einfachen Regeln. Und diese einfachen Molekülketten verhalten sich wie kleine Maschinen, die spezielle Aufgaben verrichten. Da gibt es Maschinen, die schneiden die DNA in der Mitte auf; dann gibt es welche, die kopieren die DNA-Information auf RNA; es gibt welche, die prüfen, ob es Kopierfehler gegeben hat und korrigieren diese (aber nicht alle Fehler – es soll ja noch Raum für Mutation bleiben); dann gibt es Maschinen, die lesen RNA, interpretieren sie nach dem genetischen Code und bauen daraus neue Molekülketten: Proteine, aus denen Zellen zusammengesetzt werden.

Wenn ich diese physikalisch-biologischen Vorgänge betrachte frage mich: findet hier gerade der Übergang von toter Materie zum Leben statt? Wo genau?

Und nun geht es weiter: Die Proteine bilden Zellen – kleine Maschinen, die ganz unterschiedliche Aufgaben erfüllen. Manche transportieren Sauerstoff; Manche andere stürzen sich auf Schädlinge und bekämpfen diese; Wiederum andere bauen feste Knochen. Und weiter geht es: Zellen zusammen bilden Organe mit klaren Aufgaben. Eines verdaut unser Essen, eines pumpt Blut und ein Organ vollführt erstaunliche Denkleistungen. Und alle Organe zusammen formen einen Menschen. Dieser wird gezeugt, geboren (jeder der eigene Kinder hat, weiß von der Faszination der Geburt), wächst, lernt, handelt intelligent und stirbt wieder. Viele Menschen zusammen bilden Kulturen, die entstehen, Wissen und Fähigkeiten entwickeln, und wieder vergehen. Diese Kulturen werden von einer intelligenten Spezies, genannt Homo sapiens, geformt. Diese einzelne Spezies entstand durch Evolutionsprozesse, denen sie kontinuierlich unterworfen ist. Wie die meisten Spezies wird sie irgendwann vergehen. Alle Spezies zusammen bilden das Leben auf dieser Erde. Und die Erde ist nur ein einziger Planet eines Sonnensystems einer Galaxie des Universums, über dessen mögliche andere intelligente Lebensformen wir nichts wissen.

Alle diese Ebenen, die ich laienhaft angedeutet habe, sind in sich hoch komplexe Systeme, die alle miteinander verwoben sind. Und vermutlich gibt es genauso viele Ebenen im submolekularen Bereich. Niemand kann ernsthaft behaupten, das komplexe Zusammenspiel über all diese miteinander vernetzten Ebenen auch nur annähernd, geschweige denn vollständig zu begreifen. Was wir heute zu wissen glauben, wird morgen als überholt erkannt und wirft viele neue Fragen für übermorgen auf. Im Ernst zu glauben, dass die unfassbare Komplexität des Lebens, sowie der Intelligenz als einer Ausdrucksform des Lebens, durch Computeranwendungen abgebildet oder gar weit übertroffen werden könnte, scheint mir eine extreme Unterschätzung der Natur oder eine groteske Überschätzung von Wissenschaft und Technik zu sein.

Schauen wir uns doch einmal KI-Anwendungen im Detail an. KI-Anwendungen werden stets zu einem speziellen Zweck entwickelt. So kann z.B. IBMs Deep Blue Schach spielen und Googles AlphaGo kann Go spielen. Beide Systeme übertreffen dabei die menschlichen Welt- und Großmeister. IBM Watson kann Fragen des allgemeinen Lebens beantworten – selbst wenn sie knifflig und mit Wortwitz gestellt sind – und schlägt alle menschlichen Champions der Quizshow Jeopardy! Selbstfahrende Autos erreichen ihre Ziele unter korrekter Berücksichtigung der Verkehrsregeln – vermutlich bereits in naher Zukunft sicherer als menschliche Fahrer.

All dies sind faszinierende Beispiele für mächtige KI-Anwendungen, die ich persönlich vor 20 Jahren nicht für möglich gehalten hätte. Aber sicher ist auch: Deep Blue wird niemals von sich aus anfangen, Go zu spielen, oder Quizfragen zu beantworten. IBM Watson kann nicht Schachspielen und wird es auch nicht lernen, egal in wie viel Quizshows die Anwendung eingesetzt wird. Und das selbstfahrende Auto wird nicht plötzlich auf die Idee kommen, sich für das Präsidentenamt zu bewerben, die Wahl gewinnen, anschließend die Demokratie und schlussendlich die Menschheit abschaffen. Das ist einfach absurd und gehört in den Bereich der Fiktion.

Alle diese KI-Anwendungen wurden von Informatikern und anderen Ingenieuren entwickelt. Intern werden u.A. Techniken des Machine Learning (ML) eingesetzt, meist das sogenannte „Supervised Learning“. Dabei werden Beispieldaten verwendet. So werden z.B. viele unterschiedliche Bilder von Stoppschildern, inklusive der Information, dass es sich jeweils um ein Stoppschild handelt, geladen. Mithilfe statistischer Methoden werden Modelle entwickelt, die es erlauben, bei neuen Bildern mit einer großen Wahrscheinlichkeit korrekt zu erkennen, ob ein Stoppschild abgebildet ist oder nicht. Dies kann dann in selbstfahrenden Autos für Fahrentscheidungen genutzt werden.

Also: die Anwendung lernt nicht von selbst, sondern mittels Eingabe von Beispielen durch Ingenieure („Supervisor“ im Supervised Learning). Wenn die Erkennungsraten nicht gut genug sind, ändern die Ingenieure entsprechende Parameter und starten das Lernverfahren erneut. Mit menschlichem Lernen kann das kaum verglichen werden.

Eine KI-Technik, die etwas mehr Ähnlichkeit zum Lernen eines Menschen hat, ist das sogenannte „Reinforcement Learning“. Dabei wird eine Umgebung eingesetzt, in der die Computeranwendung selbst Beispiele erzeugen und ausprobieren kann. Somit ist es möglich, ein Modell zu erzeugen, ohne dass dafür ein menschlicher Supervisor nötig ist. Zum Beispiel kann man ein Schachprogramm immer wieder gegen sich selbst (bzw. gegen ein anderes Schachprogramm) spielen lassen und die Machine Learning Verfahren auf die Verläufe und Ergebnisse dieser Spiele anwenden. Was jedoch Ingenieure vorgeben müssen, ist eine sogenannte Nutzenfunktion, z.B. „es ist positiv, ein Schachspiel zu gewinnen und es ist negativ, eines zu verlieren“. Würde man aus Spaß das Vorzeichen der Nutzenfunktion vertauschen, so würde die KI-Anwendung trainiert, Schachspiele möglichst schnell zu verlieren. Für die Anwendung wäre das überhaupt kein Problem. Sie spürt ja gar nichts, auch nicht die Auswirkungen eines verlorenen Schachspiels. Den Anreiz, eine Anwendung zu entwickeln, die Schachspiele auch gewinnt, haben die Ingenieure. Sie geben alles Notwendige von außen vor – nicht die KI-Anwendung aus sich heraus.

Im Gegensatz zur KI-Anwendung haben Menschen jedoch einen Körper. Babys verspüren Hunger und lernen von sich aus, sich so zu verhalten, dass sie etwas zu essen bekommen (Schreien hilft meist). Kinder brauchen den Zuspruch und die Zuneigung der Eltern und lernen sich so zu verhalten, dass sie Zuspruch und Zuneigung auch erhalten. Jugendliche und junge Erwachsene lernen, wie sie sich in ihrer Gesellschaft zu verhalten haben, um zu überleben – so unterschiedlich Gesellschaften auch sein können. Sie lernen aus sich heraus, weil sie Körper und Geist haben und wirklich in ihrer Umgebung leben – quasi die Resultate ihres Handelns hautnah spüren. KI-Anwendungen werden im Gegensatz dazu ausschließlich von außen durch Ingenieure gestaltet, auch wenn Techniken des Machine Learning eingesetzt werden.

KI-Anwendungen laufen auf Computer-Hardware. Wie die Anwendungen ist auch die Hardware von Ingenieuren entwickelt worden. Auch wenn wir die Metapher der „Generationen“ verwenden (wir reden z.B. von einer „neuen Prozessorgeneration“), hat dies selbstverständlich nichts mit Fortpflanzung in der Natur zu tun. Ein Prozessor kommt nicht auf die Idee, einen neuen Prozessor zu entwickeln und er zeugt auch keinen Prozessor, der mittels Evolution plötzlich besser ist als sein Vater.

Vergleichen wir nun KI-Anwendungen mit biologischem, intelligentem Leben: Auf der einen Seite beobachten wir ein unfassbar komplexes, vielschichtiges, dynamisches, selbstorganisierendes System – die vielen Schichten bzw. Ebenen habe ich laienhaft oben angedeutet. Auf der anderen Seite haben wir ein menschengemachtes, zweischichtiges System, bestehend aus KI-Anwendung und Computer-Hardware. Beide Schichten sind in sich starr und nicht selbstorganisierend. Die Dynamik (neue Hardwaregenerationen, bessere Algorithmen etc.) kommt von außen durch menschliche Ingenieursleistung. Wie kann man nun nüchtern betrachtet zur Behauptung kommen, dass dieses starre, menschengemachte System irgendwie plötzlich und von selbst dynamisch, selbstorganisierend, lebendig und intelligent wird: eine technische Superintelligenz, welche die Menschheit bedrohen kann? Ich kann beim besten Willen nicht den allerkleinsten Ansatz dafür sehen.

Bleibt die Frage, warum es immer wieder (einzelne) Fachexperten wie Marvin Minsky gibt, die solche, aus meiner Sicht absurden, Behauptungen aufstellen. Ist es ihr Ziel, Aufmerksamkeit zu erzeugen? Können sie eventuell daraus finanziellen Nutzen zu ziehen, z.B. in Form von Fördergeldern (das hat in den 1980er Jahren prima funktioniert)? Glauben sie wirklich daran und sorgen sie sich um die Menschheit? Sind solche ernst gemeinten Behauptungen vielleicht der Ausdruck einer schon fast ideologischen Wissenschafts- und Technikgläubigkeit? Ich weiß es nicht.

Dabei sind die Fortschritte der KI, vor allem in den letzten 20 Jahren, in der Tat höchst beeindruckend. Und tatsächlich bergen sie neben zahlreichen Chancen auch größte Risiken, wenn die Techniken blauäugig angewendet werden. In der Ausgabe 2/2017 der Communications of the ACM schreibt Alan Bundy in seinem Viewpoint sehr pointiert und aus meiner Sicht richtig: „Smart machines are not a threat to humanity. Worrying about machines that are too smart distracts us from the real and present threat from machines that are too dumb“.

Menschen überlassen KI-Anwendungen zunehmend wichtige Entscheidungen, obwohl selbstverständlich keine Anwendung perfekt ist. Bei selbstfahrenden Autos mag das durchaus sinnvoll sein, sobald diese nachweislich sicherer fahren als Menschen. Aber wirklich gefährlich wird es bei Entscheidungen, deren Auswirkungen kein Mensch mehr überblicken kann. Ein viel diskutiertes Gebiet ist der Hochfrequenzhandel, bei dem KI-Anwendungen Kauf- und Verkaufsentscheidungen autonom treffen, ohne dass heute die Auswirkungen auf das gesamte Wirtschaftssystem überblickt werden können. Noch deutlicher wird das im militärischen Bereich, wenn KI-Anwendungen prognostizieren sollen, ob ein Angriffsfall vorliegt und im Extremfall in Sekundenbruchteilen autonom über einen (möglicherweise nuklearen) Gegenschlag entscheiden sollen. Über solche KI-Anwendungen wurde bereits 1983 im Rahmen der Strategic Defense Initiative (SDI) intensiv diskutiert (bezeichnenderweise während der Hochzeit des KI-Hypes); und solche Diskussionen kommen leider immer wieder auf die Tagesordnung.

Wenn eine überhöhte Technik- und Wissenschaftsgläubigkeit nur dazu führt, absurde Behauptungen über technische Superintelligenzen aufzustellen, so ist das nicht weiter schlimm – sie provozieren nur harmlose akademische Diskussionen oder inspirieren amüsante Science Fiction Filme. Wenn wir aber als Gesellschaft – und besonders die politischen und wirtschaftlichen Entscheider – die Grenzen von Wissenschaft und Technik nicht klar sehen und folglich KI-Anwendungen Entscheidungen überlassen, die zwingend von verantwortlichen Menschen getroffen werden müssen, so kann dies fatale Folgen für unsere Gesellschaft haben.

DIE ZUKUNFT STIRBT ZUERST IN DEN KÖPFEN …

LETZTER BLOGEINTRAG

  1. Angeregt durch die Lektüre von Matt Ridleys Buch sind im vorausgehenden Blogeintrag einige sehr grundlegende Prinzipien herausgearbeitet worden, die allgemein wirken, denen jedes einzelne individuelle System unterworfen ist, auch jeder einzelne Mensch.

DIE BESONDERHEIT DES MENSCHEN IM BIOLOGISCHEN

  1. Unter anderem wurde auf die Besonderheiten der Menschen (der homo sapiens sapiens als Vertreter der hss-Population) hingewiesen, durch die sich die Menschen tatsächlich von der allgemeinen biologischen Umgebung abheben. Nicht in dem Sinne abheben, dass der Mensch jetzt plötzlich etwas anderes wäre als das allgemein Biologische, sondern so, dass der Mensch innerhalb des Biologischen neue, markante Eigenschaften an seinem Körper zeigt, die – verglichen mit allem anderen Biologischen – ihn in die Lage versetzen, seine eigene Struktur, seine eigene Entwicklung, sein Wechselspiel mit der jeweiligen Umgebung und mit der gesamten Umwelt anschauen und bewerten zu können, ja, er kann bis zu einem gewissen Grad mit diesen neuen Verstehensmöglichkeiten sich selbst und die ganze Welt probeweise spielerisch verändern, und sein Verhalten danach neu orientieren.

MENSCH ALS GEWOHNHEITSTIER

  1. Wenn wir den konkreten Alltag von Menschen anschauen, heute und in der Vergangenheit, sofern diese uns noch zugänglich ist, könnten wir den Eindruck gewinnen, dass der Mensch eher ein ‚Gewohnheitstier‘ ist, da er im Zweifelsfall eher das vorzieht, was er schon kennt, was ihm vertraut ist, von dem er glaubt, dass er es zu seinen Gunsten beeinflussen kann, von dem er glaubt, dass es ihm die meisten Vorteile bringt.

GEWOHNHEIT ALS ZUKUNFTSVERHINDERUNG

  1. So kann man im Bereich der Wirtschaft mit schöner Regelmäßigkeit beobachten, wie erfolgreiche Konzepte dazu führen, dass Firmen, ganze Wirtschaftsbereiche, sich in ihren Erfolgen einrichten, sie gegen Konkurrenten und Neuerungen abzusichern versuchen, sich von der Politik alle mögliche Unterstützungen sichern (das berühmte Lobbytum, das aus demokratisch gewählten Volksvertretern verkappte Interessenvertreter solcher zukunftsfeindlichen Industriepolitik macht), und dass diese Firmen dann sehr häufig übersehen, dass es alternative, bessere Ideen, Technologien und Vermarktungsmöglichkeiten gibt, die dann ‚über Nacht‘ auftreten und ganze Industriebereiche – bildlich gesprochen – in Schutt und Asche legen. Neben den vielen Beispielen aus der Vergangenheit erleben wir gerade, wie moderne, flexible, kundennahe Bezahldienst den angestammten Finanzdienstleister die Kunden Millionenweise abspenstig machen, oder wie eine selbst-verliebte Automobilindustrie feststellen muss, dass wichtige Schlüsseltechnologien für die Zukunft schon längst von anderen entwickelt und besetzt wurden.
  2. Sind diese Entwicklungen für die jeweiligen Industrie selbst verheerend, so sind sie natürlich auch für die jeweiligen Standorte, Regionen und Volkswirtschaften verheerend. Ganze Regionen können veröden (Stichworte Stahlindustrie in der Vergangenheit, Textilindustrie, Automatisierung, Schiffbau, Agrarindustrie, usw.). Leider ist es so, dass die lokalen und regionalen kommunalen Vertreter sich in allen Fällen blindlings den aktuellen Erfolgen verschrieben haben, anstatt im aktuellen Erfolg den Blick auch auf mögliche Alternativen zu richten, erweiternde Szenarien, so dass eine Region eben nicht nur von einer einzigen Technologie abhängig ist. Statt dass die Politik das kritische Korrektiv zu herrschenden Industrien bildet, diese zu Erneuerungen, Weiterentwicklungen, Alternativen anregt, haben sie ihr eigenes Denken weitgehend ausgeschaltet und spielen das Spiel der Selbstverliebtheit einfach mit. Der unausweichliche Technologie-Crash wird damit auch zu einem gesellschaftlichen Crash, den man hätte verhindern können, aber nicht verhindert hat (aktuell in Deutschland z.B. die Automobilstandorte, die Braunkohle, die Kohle, … ).

PRINZIP DER EVOLUTION WIRKT

  1. Betrachtet man die vielen Aufstiege und Abstürze verschiedener Technologien und gesellschaftlicher Systeme weltweit und im historischen Maßstab, dann kann man das Prinzip der Evolution am Wirken sehen, das Alternativen, wenn sie möglich sind, auch zum Tragen kommen; nicht immer sofort oder schnell, aber irgendwann dann doch, weil Effizienz sich letztlich durchsetzt. … oder weil das Leid und die Unzufriedenheit von großen Teilen einer Bevölkerung sich gegen ein herrschendes System aufgelehnt hat: einseitige Verteilung von Reichtum, einseitige Verteilung von Macht, unwürdige Lebensverhältnisse für Viele,  haben in der Vergangenheit oft zu  umstürzende Veränderungen geführt. Nicht immer war es danach besser.

NADELÖHR MENSCH

  1. Sofern der Mensch bei diesen Entwicklungen beteiligt ist, können  wir zwei gegensätzliche Tendenzen beobachten.
  2. Einerseits verfügt der Mensch über ein großes Potential im Erkunden neuer Möglichkeiten und deren technologischer und gesellschaftlicher Nutzung. Andererseits ist der Mensch durch sein biologisches Erbe als Individuum vielfach begrenzt und stark bedürfnis- und triebgesteuert; seine kognitiven Fähigkeiten sind einerseits außerordentlich, wenn es darum geht, sich mit seinem Körper in einer realen Umgebung zurecht zu finden, er hat aber Probleme, komplexe Zusammenhänge zu erfassen, und seine Kommunikationsfähigkeit ist primär für den Nahbereich ausgelegt, für einfache, alltägliche Sachverhalte. Zwar haben Erfindungen wie Schrift, Rechtssysteme, Handwerk, Technologie, Landwirtschaft, Städtebau usw. die Fähigkeit erhöht, dass Menschen im Zusammenwirken mit anderen auch komplexere Aufgaben lösen können, aber der einzelne individuelle Mensch hat sich bislang biologisch nicht wesentlich verändert. Der endliche, triebgesteuerte, am Nahbereich orientierte einzelne Mensch findet sich in immer komplexeren gesellschaftlichen und technologischen Zusammenhängen vor, die seine individuellen Fähigkeiten real übersteigen. Diese Differenz ist schwer erträglich und ist ein großer Motor für Entlastungsstrategien vielfältigster Art. Die einen erleben sich als krank; andere blenden ganze Bereiche der Wirklichkeit einfach aus; andere propagieren vereinfachte Modelle von der Wirklichkeit, die schön klingen und ein gutes Gefühl vermitteln, aber letztlich zu kurz greifen; usw. Religiöser Fanatismus, nationalistische Tendenzen, Abbau von Demokratie durch scheinbar starke Männer, Korruption, Lobbyismus, Zunahme von Kontrolle und Überwachung, dies sind Symptome von großen Ängsten, Tendenzen zur Vereinfachung, die in der Regel nur wenigen nutzen und vielen schaden.

WISSEN NICHT ANGEBOREN

WELT ALS MODELL IM KOPF

  1. Damit kommen wir zu einem zentralen Punkt. Sofern ein Mensch als Akteur an einem Prozess beteiligt ist, kann er neben den an sich ‚blinden‘ Bedürfnissen, Trieben und dem Bauchgefühl auch sein aktuell verfügbares Wissen zu Rate ziehen. Das Wissen ist nicht angeboren, sondern muss in lang andauernden Prozessen der Interaktion mit der Umgebung erworben, gelernt werden. Dieses Wissen ist etwas ‚in seinem Kopf‘, ‚in seinem Gehirn‘. Es ist das menschliche Gehirn, das aufgrund seiner Bau- und Funktionsweise in der Lage ist, die Vielzahl der sensorischen Eindrücke von der Umgebung zugleich mit der eigenen Körperwahrnehmung zu einem komplexen Puzzle zusammen zu setzen, das ‚im Kopf‘, ‚im Gehirn‘ als eine Art ‚virtuelle Welt‚ existiert, ein vom Gehirn konstruiertes Modell der Welt, das nicht die Welt selbst ist. Für jeden einzelnen aber, der solch ein Modell der Welt im Kopf hat, erscheint dieses Modell der Welt als die Welt selbst!
  2. Je nachdem, wie gut dieses Modell im Kopf ist, kann es im Alltag helfen, sich schnell zu orientieren. Man weiß in etwa, wo man sich befindet, wer die Person ist, die mit einem im Raum ist, wie die vielen Gegenstände benannt werden, welche Verhaltensweisen man von den Dingen und Menschen erwarten darf (meistens), usw. Und solange die Welt im Kopf mit der realen Situation harmoniert, solange erscheint die Welt im Kopf ganz natürlich als die Welt selbst. Wenn ich aber mein Fahrrad holen will und feststelle, es ist nicht mehr da; oder ich sehe ein Handy, das aussieht wie ein anderes, aber dieses Handy dann doch anders funktioniert, wie ich es gewohnt bin; oder die Landwirte in den USA in weiten Gebieten plötzlich Wildpflanzen nicht mehr bekämpfen können, weil das die Wildpflanzen gelernt haben, sich gegenüber den Umweltgiften der Landwirte zu erwehren; … dann fällt einem auf, dass das Modell im Kopf nicht die reale Welt ist. Wenn ganze Volkswirtschaften nur noch Arbeitslosigkeit und Schulden produzieren, dann fällt auf, dass unser Modell einer Volkswirtschaft in den Köpfen der Akteure vielleicht falsch ist; oder Menschen in meiner Umgebung verhalten sich plötzlich anders, als ich es jahrelang gewohnt war – was war das für ein Modell, das ich im Kopf von diesen Menschen hatte?
  3. Kurzum, den wenigstens Menschen ist bewusst, dass die Welt, die sie täglich voraussetzen, nicht einfach die Welt ist, wie sie ist, sondern auch die Welt, wie sie sich die Welt in ihrem Kopf vorstellen. Die klassische (Griechische) Philosophie konnte das Lebendige nicht erklären, erfand aber ein Wort (Pneuma von pneuein, atmen), um es zumindest zu benennen. Viele Jahrhunderte (eigentlich mehr als 2000 Jahre) war es der Fantasie der Menschen überlassen, sich vorzustellen, was dieses Pneuma, dieses Lebensprinzip, sein konnte. Erst seit ca. 100 Jahre konnte die Wissenschaft genügend Wissen erarbeiten, um ein mögliches empirisch motiviertes Modell dieses Pneuma-Lebensprinzips zu gewinnen. Und selbst heute ist vieles noch offen.
  4. Das Modell im Kopf, die Welt als explizite Hypothese, fällt nicht vom Himmel; das Modell muss mühsam von vielen 100.000enden jeden Tag neu erarbeitet, überprüft, modifiziert werden. Es ist ein unfassbarer Schatz an Wissen ohne den wir weitgehend blind sind und Spielbälle von an sich blinden Bedürfnissen, Trieben und Bauchgefühlen jeglicher Art. Dieser globale Prozess wissenschaftlicher Erkenntnis ist eingebettet in ein gesellschaftliches Umfeld, das in der Regel kaum an wirklichem Wissen interessiert ist. In der Gesellschaft geht es wie eh und je primär um Macht, Reichtum, Kontrolle, Befriedigung der primären Bedürfnisse, und die Wissenschaft, die Wissenschaftler, sind davon nicht abgeschottet: selten dürfen sie einfach forschen, was man erforschen könnte, sondern können nur forschen, wofür sie Geld bekommen oder was ‚politisch gewollt‘ ist. Die Kurzsichtigkeit der Politik ist aber ein aktuelles Problem. Es gäbe Wissenschaften, die uns allen helfen könnten, aktuelle Tendenzen besser zu bewerten, aber für solche Wissenschaften gibt es kein Geld; sie würden ja die Politik in ihrer Kurzsichtigkeit kritisieren. Davor scheut man zurück.

ZUKUNFT IST KEIN NORMALES OBJEKT

  1. Und hier sei nochmals an den fundamentalen Gedanken aus einem vorausgehenden Blogeintrag erinnert , dass die Zukunft ja nicht als ein Objekt existiert wie irgend ein anderes Objekt in unserer Umgebung. In der Wahrnehmung haben wir streng genommen nur ein Jetzt, das wir nur insoweit überwinden, übersteigen können, als die Fähigkeit unseres Gedächtnisses uns durch die Erinnerung von vergangenen Jetzt-Momenten und verschiedenen Abstraktions- und Vergleichsprozessen überhaupt Anhaltspunkte für Veränderungen in der realen Welt liefert, Ansatzpunkte für Beziehungen, Regelhaftigkeiten, anhand deren wir dann in die Lage versetzt werden, Ideen von möglichen Zuständen in der Zukunft zu denken, als Hypothesen, als Vermutungen. Zukunft ist von daher immer ein Konstrukt im Bereich der virtuellen Welt unseres Gehirns. Wer nicht nachdenkt, hat keine gedachte mögliche Zukunft. Wer nachdenkt, kann Hypothesen entwickeln, die die eine oder andere mögliche Entwicklung vorweg nehmen können, aber insgesamt sind dies Variationen von Themen der Vergangenheit. Die echte Zukunft lässt sich nur sehr angenähert denken.

DIE ZUKUNFT STIRB IM KOPF

  1. Ist das Denken, das Wissen also schon grundsätzlich für unser Verhalten, für unser alltägliches Leben, für Politik und Wirtschaft wichtig, so ist es fundamental für eine mögliche Zukunft. In einer wissensfeindlichen Gesellschaft wird also nicht nur ein Alltag in der Gegenwart schwer, sondern die Keime einer möglichen für alle guten Zukunft werden schon im Ansatz erstickt. Die Zukunft stirbt dann schon im Kopf bevor eine mögliche Zukunft überhaupt stattfinden konnte. Real wird die Welt dann zwar trotzdem voranschreiten, es werden sich Dinge ereignen, ob die Menschen wollen oder nicht, aber diese Dinge können verheerend sein, zerstörerisch, viele Menschen mit Leid versorgen, Leid, das man möglicherweise hätte verhindern können. Die Demagogen der Gegenwart werden dann aber nicht mehr da sein oder, sollten sie es erleben, haben die Demagogen selbst selten die Schuld auf sich genommen. Es waren dann ihre dummen Anhänger, die ihre wunderbare (Schrott)Ideen nicht gut genug verstanden haben. Lieben die Menschen die Unwahrheit tatsächlich mehr als die Wahrheit? Falls Ja, was könnte ein Mensch dagegen tun, sich davor zu schützen?

MEMO ZU: 6 THESEN ZUM LEBEN: KREATIVITÄT, KOOPERATION, KOMMUIKATION, MEHR ALS JETZT, SEXUALITÄT, DAS BÖSE – PHILOSOPHIESOMMER 2016 in der DENKBAR Frankfurt am So, 15.Mai 2016

Hier wieder ein kurzer Bericht zum Philosophiesommer 2016 in der Denkbar, Treffen am So 15.Mai 2016 (siehe die zugehörige Einladung)

Die Einleitung geriet etwas lang, vielleicht auch angesichts der vielen neuen Gesichter. Letztlich hielten wir aber unseren vorgeschlagenen Zeitplan ein. Sehr erfreulich war die breite Streuung der versammelten Kompetenzen, was sich dann in den Beiträgen widerspiegelte.

EINLEITUNG: SPANNUNGSFELD MENSCH – INTELLIGENTE MASCHINE

Ausgangspunkt war die spannungsvolle Diskussion vom letzten Treffen, bei dem zwar das Spannungsfeld Mensch einerseits, intelligente Maschinen andererseits, zur Sprache kam, wir uns aber nicht auf ein klares Thema für die Fortsetzung einigen konnten. Dies führte zur Formulierung von sechs Thesen zu Grundmerkmalen des biologischen Lebens, so wie sie sich am Beispiel des homo sapiens sapiens nach heutigem Kenntnisstand ablesen lassen. Diese Thesen sind gedacht als mögliche Orientierungspunkte für die weitere Diskussion des Spannungsfeldes Mensch – intelligente Maschinen.

STICHWORTE ZU INTELLIGENTE MASCHINEN

Analog zu den sechs Thesen zum biologischen Leben wurden ein paar Meilensteine zum Begriff der intelligenten Maschine in den Raum gestellt, an denen man das Reden über intelligente Maschinen fest machen kann.

STANDARD FÜR EINEN COMPUTER

Es wurde verwiesen auf den berühmten Artikel On Computable Numbers, with an Application to the Entscheidungsproblem. In: Proceedings of the London Mathematical Society. Band 42, 1937, S. 230–265, von Alan Mathison Turing (19121954), in dem er im Kontext eines mathematischen Beweises ein einfaches Gedankenkonstrukt einführte, was später zu seinen Ehren Turingmaschine genannt wurde. Dieses Gedankenkonstrukt, die Turingmaschine, ist bis heute der gedankliche Standard, die Norm, für Fragen der Entscheidbarkeit von Problemstellungen in der Computerwissenschaft. Nach heutigem Kenntnisstand kann kein realer Computer mehr als dieses gedankliche Konstrukt genannt Turingmaschine (und dies gilt auch für alle denkbaren reale Computer der Zukunft).

INTELLIGENTE MASCHINEN

Es war auch dann Turing, der 1950, als es gerade erste Ungetüme von Computer gab, die noch nicht allzu viel konnten, die Frage diskutierte, ob Computer einmal so intelligent werden könnten wie ein homo sapiens sapiens (siehe: Computing Machinery and Intelligence. In: Mind. LIX, Nr. 236, 1950, ISSN  0026-4423, S. 433–460 ). Er räsonierte darüber, dass Computer, wenn sie genauso lernen dürften wie Kinder, eigentlich auch alles wissen könnten, wie Kinder. Auf dem Weg zur intelligenten Maschine sah er weniger technische Probleme, sondern soziale psychologische: Menschen werden Probleme haben, intelligenten lernende Maschinen neben sich in ihrem Alltag zu haben.

EMOTIONALE MASCHINEN

Einer der einflussreichsten und wichtigsten Wissenschaftler der künstlichen Intelligenzforschung, Marvin Minsky (1927 – 2016) veröffentlichte wenige Jahre vor seinem Tod ein Buch über die emotionale Maschine ( The Emotion Machine, Simon & Schuster, New York 2006). Es ist – formal gesehen – kein streng wissenschaftliches Buch, aber dennoch bedenkenswert, da er hier im Lichte seines Wissens durchspielt, wie man die menschlichen Erfahrungen von diversen Gefühlszuständen mit dem zu diesem Zeitpunkt bekannten Wissen über Computer rekonstruieren – sprich erzeugen – könnte. Er sieht in solch einem Projekt kein prinzipielles Problem.(Anmerkung: Es könnte interessant sein, dieses Buch zusammen mit Psychologen und Psychotherapeuten zu diskutieren (evtl. ergänzt um Gehirnforscher mit einem psychologischen Training)).

SUPERINTELLIGENZ UND WERTE

Einen weiteren Aspekt bringt der in Oxford lehrende Philosoph Nick Bostrom ins Spiel. In seinem Buch Superintelligenz (Superintelligence. Paths, Dangers, Strategies. Oxford University Press, Oxford 2014) sieht er bzgl. der Möglichkeit, super-intelligenter Maschinen grundsätzlich auch keine grundsätzliche Schwierigkeit, wohl aber in der Wertefrage: nach welchen Werten (Zielgrößen, Präferenzen) werden sich diese super-intelligenten Maschinen richten? Werden sie sich gegen den Menschen wenden? Kann der Mensch ihnen solche Werte einspeisen, die diese super-intelligente Maschinen dem Menschen wohlgesonnen sein lassen? Er selbst findet auf diese Fragen keine befriedigende Antwort. Auch wird durch seine Analysen deutlich (was Bostrom nicht ganz klar stellt), dass die Wertefrage grundsätzlich offen ist. Die Menschen selbst demonstrieren seit Jahrtausenden, dass sie keine Klarheit besitzen über gemeinsame Werte, denen alle folgen wollen.

SECHS THESEN ZUM BIOLOGISCHEN LEBEN

Vom BigBang (-13.8 Mrd Jahre) bis heute; ausgewählte Ereignisse

Vom BigBang (-13.8 Mrd Jahre) bis heute; ausgewählte Ereignisse

Angesichts des zuvor skizzierten ungebrochenen Glaubens an die Möglichkeiten einer Superintelligenz bei gleichzeitigem ungelösten Werteproblem bei den Menschen selbst stellt sich die Frage, ob wir Menschen als späte Produkte des biologischen Lebens nicht doch Eigenschaften an und in uns tragen, die mehr sind als eine beliebige Meinung. Aus der Vielzahl der neuesten wissenschaftlichen Erkenntnisse zum biologischen Leben und zum homo sapiens sapiens hatte Gerd Doeben-Henisch sechs in Form von Thesen ausgewählt und der Diskussion vorangestellt.

1. KREATIVITÄT JENSEITS DES BEKANNTEN: Die Explosion des Lebens fand statt auf der Basis eines Erfolgswissens aus der Vergangenheit (repräsentiert im DNA-Molekül) ohne Wissen um die Zukunft. Inmitten eines Nicht-Wissens wurde nicht nur das erprobte Wissen aus der Vergangenheit genutzt, sondern der Reproduktionsprozess erlaubte eine Vielzahl von Alternativen, die alle im Moment des Ereignisses das radikale Risiko des Scheiterns beinhalteten. Diese basale Form der Kreativität war die Methode, Leben zu finden, und das Risiko des Scheiterns der Preis: Ohne Tod kein Leben.
2. KOOPERATION ÜBR GRENZEN HINWEG: Die Explosion des Lebens fand statt durch Erlangung der Fähigkeit, mit völlig fremden Systemen (die oft lebensbedrohlich waren) in eine Kooperation geradezu galaktischen Ausmaßes einzutreten, die eine WinWin-Situation für alle Beteiligte bildete. Das Zustandekommen solcher WinWin-Situationen war in den ersten Milliarden Jahren zufällig; der Erhalt der gefundenen Vorteile beruhte auf der grundlegenden Fähigkeit des Lebens, Erfolge zu konservieren.
3. ÜBERWINDUNG DES JETZT: Solange die biologischen Systeme nicht über Gedächtnis, Abstraktionsfähigkeit, basalem Denken verfügten, waren sie im Jetzt der Sinneseindrücke gefangen. Es gab kein Gestern und kein Morgen. Nach der Explosion des Lebens ab ca. -450 Mio Jahren kam es zu einem einzigartigen Punkt: nach 13.8 Mrd Jahren konnte sich das Leben in Gestalt der Hominiden, speziell dann des homo sapiens sapiens, plötzlich selbst anschauen und verfügte ab da über das Potential, sich selbst zu verändern.
4. KOORDINIERUNG INDIVIDUELLER VIRTUELLER WELTEN: Mit der Überschreitung des Jetzt durch interne Konstruktionen entsteht im einzelnen Individuum ein rekonstruierendes virtuelles Abbild der realen Welt. Damit die vielen einzelnen dieses virtuelle Wissen gemeinsam nutzen können, braucht es neue, leistungsfähige Formen der Koordinierung durch symbolische Kommunikation. Erfindungen wie die Sprache, die Schrift, der Buchdruck usw. belegen eindrucksvoll, was symbolische Interaktion vermag.
5. JENSEITS VON SEXUALITÄT: Während die bisherige Form der Sexualität als Strategie der Mischung genetischer Informationen kombiniert mit endogenem Handlungsdruck bei den handelnden Individuen über Jahrmillionen den Erhalt des Lebens offensichtlich ermöglicht hat, führen die neuen Lebensverhältnisse der großen Siedlungsdichten und der drohenden Überbevölkerung zur Frage, wie sich der Mensch von den endogenen Handlungsdrücken hinreichend befreien kann. Mann – Frau war gestern?
6. DYNAMIK DES BÖSEN – WO LEBT DAS GUTE: tiefsitzende Triebstrukturen im Menschen (Macht, Geld, Dünkel, …) sind seit Jahrtausenden bekannt. Mit den neuen globalen Informationstechnologien können sie sich schneller und effektiver im globalen Maßstab organisieren als nationale politische Systeme. Globale Kartelle des Machtmissbrauchs und der der Kriminalität bedrohen die neuzeitlichen Freiheitsansätze des Kreativen (neben anderen Faktoren).

FREIER DISKURS
Bei diesem breiten Spektrum des Themas war klar, dass nicht alle angesprochenen Aspekte gleichzeitig diskutiert werden konnten.

Gedankenskizze zum Philosophiesommer 2016, Sitzung am 15.Mai 2016, in der DENKBAR Frankfurt

Gedankenskizze zum Philosophiesommer 2016, Sitzung am 15.Mai 2016, in der DENKBAR Frankfurt

SEXUALITÄT
Die ersten Gesprächsbeiträge griffen die These zur Sexualität auf. Eher grundsätzliche Überlegungen thematisierten, dass Sexualität als ein grundlegendes und übergreifendes Prinzip zu sehen ist; die einzelnen Individuen sind hier nur – in gewisser Weise – nur ‚Marionetten‘ in dem großen Spiel des Lebens. Das Leben will überleben, der einzelne muss entsprechend funktionieren. Dass die biologisch vorgegebene eingebaute endogene Drucksituation im Laufe der Jahrtausende innerhalb der unterschiedlichen Kulturen mit ihren Wertesystemen zu vielfältigen Formen der Regulierungen geführt hat (meist zu Lasten der Frauen), ist manifest. Versuche der Menschen, die strenge Kopplung zwischen Sexualität und Reproduktion zu lockern gab es immer. Erst in neuester Zeit verfeinerten sich die Techniken, bieten sich Möglichkeit in die chemischen oder gar genetischen Prozesse einzugreifen bzw. durch die Reproduktionsmedizin die Reproduktion mehr und mehr aus dem biologischen System auszulagern. War schon immer die Anzahl der Kinder ein Indikator für den aktuellen Wohlstand, so führt heute die zunehmende Bevölkerungsdichte erneut zu Überlegungen, den bisherigen Reproduktionsmechanismus zu verändern. Für alle die neuen Maßnahmen und Technologien zur Veränderung der Reproduktion spielt der Einsatz von Computern eine immer größere Rolle. Zugleich wird der Computern für die Sexualität in Form von Sexrobotern auch immer mehr eingesetzt. Bräuchten super-intelligente Maschinen auch ein Äquivalent zur Sexualität, um sich zu vermehren?

INTELLIGENTE MASCHINEN

Die Position der intelligenten Maschinen blieb auffällig abstrakt. Was können sie eigentlich wirklich leisten? Richtig intelligente Maschinen scheint es noch nicht wirklich zu geben. Generell wurde nicht ausgeschlossen, dass super-intelligente Maschinen eine neue Variante der Evolution ermöglichen können. Haben diese super-intelligente Maschinen dann einen eigenen Willen? Würden sie aus sich heraus zu dem Punkt kommen, dass sie die Menschen abschaffen würden? Können wir den super-intelligente Maschinen solche Werte einpflanzen, dass sie den Menschen grundsätzlich wohlgesonnen sind (hier sei erinnert an die vielen geistreichen Science Fiction von Isaak Asimov (1919 – 1992), der unter anderem die Robotergesetze erfunden hatte, die genau diese Idee umsetzen sollten: menschenfreundliche Roboter ermöglichen).

NICHT SCHWARZ-WEISS DENKEN

Im Gespräch zeichnete sich auch eine Position ab, die viele Argumente auf sich vereinte, nämlich jene, die weniger konfrontativ Mensch und super-intelligente Maschinen gegenüberstellt, sondern von einer symbiotischen Wechselbeziehung ausgeht. Der Mensch entwickelt schrittweise die neuen Technologien, und in dem Masse, wie diese real erfahrbar werden, beginnt die ganze Gesellschaft, sich damit auseinander zu setzen. Systemisch gibt es damit beständige Rückkopplungen, die – falls die gesellschaftliche Dynamik (Öffentlichkeit, freie Meinung, Diskurs..) intakt ist – nach Optimierungen im Verhältnis zwischen Menschen und Maschinen sucht. Natürlich gibt es massive wirtschaftliche Interessen, die versuchen, die neuen Möglichkeiten für sich zu nutzen und versuchen, alle Vorteile einseitig zu akkumulieren; es ist dann Aufgabe der ganzen Gesellschaft, dieser Tendenz entsprechend entgegen zu wirken. Dabei kann es sehr wohl zu Neujustierungen bisheriger Normen/ Werte kommen.

WEISHEIT DES LEBENS
Wenn man bedenkt, welch ungeheuren Leistungen das biologische Leben seit 3.8 Mrd Jahren auf der Erde vollbracht hat, wie es Lebewesen mit einer gerade zu galaktischen Komplexität geschaffen hat (der Körper des homo sapiens sapiens hat nach neuen Schätzungen ca. 34 Billionen (10^12) Körperzellen (plus noch mehr Bakterien in und am Körper), die alle als Individuen im Millisekundentakt zusammenwirken, während dagegen die Milchstraße, unsere Heimatgalaxie, ca. nur 100 – 300 Mrd. Sonnen besitzt), dann kann man nicht grundsätzlich ausschließen, dass diese Leben implizit über eine ‚Weisheit‘ verfügt (man könnte auch einfach von ‚Logik‘ sprechen), die möglicherweise größer, tiefer umfassender ist, als jede denkbare Superintelligenz, weil diese, wann und wo auch immer, nicht von außerhalb des Systems entsteht, sondern innerhalb des Systems.

NÄCHSTES THEMA

Da viele Teilnehmer sagten, dass sie sich unter diesen intelligenten Maschinen immer noch nichts Rechtes vorstellen können, wurde ein anwesender Experte für intelligente Maschinen (aus der Gattung homo sapiens sapiens) gebeten, für das nächste Treffen eine kleine Einführung in die aktuelle Situation zu geben.

Ein Überblick zu allen bisherigen Themen des Philosophiesommers (und seiner Vorgänger) nach Titeln findet sich HIER.