MEMO: MASCHINENWERDUNG DES GEISTES – Thema des PHILOSOPHIESOMMER 2016 in der DENKBAR Frankfurt am So, 10.April 2016

  1. Der Text der Einladung zur Sitzung am 10.April 2016 war länger als gewöhnlich. Möglicherweise war dies dem Umstand geschuldet, dass dem Autor die Tragweite des Ereignisses im Moment des Schreibens so recht bewusst wurde. Bei allen Unzulänglichkeiten der aktuellen Programme mit Beinamen Künstliche Intelligenz hat es die Firma IBM offensichtlich geschafft, eine erste Generation von kognitiven Softwareprogrammen zu produzieren, die sich in vielen beruflichen Kontexten mit Menschen scheinbar normal unterhalten können und dann auch die richtigen Schlüsse ziehen, in sogenannter Echtzeit. Das Gesamtprodukt aus Software und Hardware sind dann kognitive Computer oder Intelligente Maschinen. Das Einsatzpotential erscheint riesig; die Zahl von geplanten Kooperationen mit Firmen aus anderen Produktbereichen wächst täglich.
Maschinenwerdung des Geistes? Ist die Dynamik des Vorgangs ein Anzeichen für ein tiefliegendes biologisches Bedürfnis?
Maschinenwerdung des Geistes? Ist die Dynamik des Vorgangs ein Anzeichen für ein tiefliegendes biologisches Bedürfnis?
  1. Interessanterweise pendelte das Gespräch nur relativ kurz um die Technologie der kognitiven Maschinen selbst. Nach dem schnellen Zugeständnis, dass diese Maschinen dem Menschen in Wissensfragen durch ihre Verknüpfung mit Datenbanken und schnelle Algorithmen deutlich überlegen sind, verhakelte sich das Gespräch alsbald in die Frage der emotionalen-ethischen Seite des maschinellen Gegenübers: kann die Maschine Emotionen? Kann sie Empathie? Braucht Sie überhaupt Empathie? Wieweit kann die Maschine mit Ausnahmen umgehen? Könnte sie sich selbst organisieren, selbst eine soziale Bewegung gründen?
  2. Es bildete sich ein Konsens, dass die Maschinen aktuell zwar schon beeindruckende Leistungen in reinen Wissensfragen zeigen können, bei emotionalen und empathischen Zusammenhängen aber noch nichts bieten. Auch eine echte Selbstorganisation mit oder soziale Bewegungen erscheinen aktuell als noch nicht eingelöst.

EINSATZSZENARIEN VON KOGNITIVEN MASCHINEN

  1. Bei dem zunehmenden Einsatz von kognitive Maschinen in Krankenhäusern stellen sich viele Fragen: neben Qualitäts- und Haftungsfragen und der Frage der emotionalen Wirkungen auf Seiten der Menschen wurde auch stark auf die leitenden Interessen abgehoben. Es bestand der Eindruck, dass bei den Krankenhausleitungen immer mehr nur ein wirtschaftliches Interesse dominiere; der Patient mit seinen Bedürfnissen bleibe auf der Strecke.
  2. Dem wurde entgegen gehalten, dass nicht unbedingt die handelnden Klinikleitungen die primäre Steuerungsfunktion ausüben, sondern die Politik, deren Rahmensetzungen Geld verknappe und Qualitätsanforderungen herunterschraube.
  3. Dies führte zu noch grundsätzlicheren Überlegungen des wirtschaftlichen Gesamtmodells, das möglicherweise ein zu vereinfachendes Wertschema bereitstelle, um genügend zu differenzieren. Es fielen Worte wie Neoliberalismus und Raubtierkapitalismus. Letztlich möglicherweise Chiffren für die Ängste, dass die Wirtschaft die Belange des Menschen eigentlich schon längst ausgedampft habe.
  4. Ferner wurde daran erinnert, dass sich ein Wandel im Rollenverständnis von Medizin und ihrem Personal wie ein roter Faden durch die Geschichte zieht; dazu der Fortschritt in der Technik, der der Medizin ja auch neue Flügel verliehen hat im Umgang mit vielen Defiziten und Erkrankungen.

DER MENSCH SELBST – EMOTIONEN …

  1. Und, wie von magischer Hand gezogen, verschob sich die Diskussion immer mehr zum Menschen selber.
  2. Ein Trigger war das vermeintliche Fehlen von Emotionen, Gefühlen und Empathie auf Seiten der kognitiven Maschinen.
  3. Emotionen auf Seiten des Menschen wurden als zentral bezeichnet, können sämtliche andere Funktionen beeinflussen, bis hin zu schwerer Krankheit und Tod.
  4. Die neue Umwelt, neue Arbeitssituationen, die Medien, der Computer wirken auf die Emotionen ein. Es war nicht ganz klar, ob nur negativ (Stichwort: Spielesucht). Auf jeden Fall kann über die Medien und den Computer ein starker Einfluss auf die Emotionen, die Psyche, überhaupt auf das Denken, ausgeübt werden. Ist dies nur negativ (wie manche Untersuchungen nahe zu legen scheinen), oder kann es auch positiv sein? Die intensive Nutzung rund um die Uhr spricht eher für eine intensive Befriedigung vieler menschlicher Bedürfnisse durch die Maschinen.
  5. Zugleich ist klar, dass der Mensch mit seinen Emotionen und Empathien nicht nur gut ist: viel Gewalt, Folter, Kriege markieren eine deutliche Spur in der Geschichte (und der Gegenwart); der Mensch kann sehr grausam sein und erweist sich bis heute als sein eigener größter Feind. Vor diesem Hintergrund wirken Maschinen eher neutral; sie erscheinen als Werkzeuge, die man so oder so nutzen kann.

WAHRE INTELLIGENTE SELBSTORGANISIERENDE MASCHINEN

  1. Offen blieb die Frage, wie weit die Maschinen in ihrer Fähigkeit zur Selbstorganisation und ausgestattet mit eigenen Emotionen und Werten kommen können. Und, selbst wenn die Maschinen rein auf sich gestellt es nicht schaffen könnten – werden die ungestillten Bedürfnisse und Sehnsüchte der Menschen nicht selbst jene Motive und Kräfte liefern, die aus neutralen Maschinen emotionale Monster machen, die als zigfache Verstärker menschlicher Gedanken und Wünsche dann ins überdimensionale wachsen und zu selbstorganisierenden Monstern mutieren, weil die Menschen es so wollen? Sind die Monster der Science Fiction nicht letztlich die ungestillten Machtbedürfnisse der Menschen selbst?

OFFENE FRAGEN

  1. Unklar blieb, warum Maschinen überhaupt solche Verhaltensweisen ausbilden können, die dem Menschen so ähneln. Wie ist das möglich?
  2. Unklar blieb, wie genau das Moment von Technik innerhalb der Evolution des Biologischen gedacht werden kann bzw. gedacht werden soll? Es sind biologische Systeme, die Maschinen erfunden haben, sie planen, sie bauen, sie benutzen. Wie muss man sich diesen Aspekt der biologischen Evolution denken? Was ist das Biologische an den Maschinen? Verstehen wir uns selbst noch gar nicht? Haben wir bislang das Biologische falsch erstanden?
  3. Auf der gleichen Linie liegt die Frage nach dem neuen Verständnis von unbelebter und belebter Materie: wenn das Biologische als belebte Materie sich aus der unbelebten Materie entwickeln konnte, wieweit kann man dann die unbelebte Materie wirklich als unbelebt bezeichnen? In formalen logischen Systemen kann man nur das ableiten, was in den Voraussetzungen schon drin steckt. In der Physik geht man auch davon aus, dass aus Nichts nichts entstehen kann. Wenn nun etwas Biologisch-Lebendiges entsteht, dann müssen die ‚Grundmaterialien‘, aus denen dies entstanden ist, mindestens so viele Eigenschaften enthalten, wie jene, die dann im Prozess sichtbar werden. Es wäre dann nicht etwas ganz Neues, sondern nur das Alte eventuell in einer anderen Zustandsform. Das Belebte wäre dann nur eine andere Zustandsform des Unbelebten; letztlich wäre alles gleichwertig. So kann ja auch etwas Belebtes wieder in die Zustandsform des Unbelebten zurückkehren (wir nennen das Sterben, Tod).
  4. So wie ja grundsätzlich eine Äquivalenz von Energie und Materie in Bewegung angenommen wird, Materie in Bewegung als eine andere Zustandsform von Energie, so entsteht das Belebte aus der Kombination von Materie und freier Energie; nicht beliebig, nicht immer, nicht überall, sondern unter bestimmten Rahmenbedingungen kann freie Energie Materie dazu bringen, weitere Zustandsänderungen vorzunehmen, die dann in hochkomplexen biologischen Strukturen enden (ein einzelner menschlicher Körper hat etwa die 1000-fache Komplexität einer einzelnen Galaxie!).
  5. Wenn nun biologische Strukturen andere Materie mit Hilfe von Energie zu Strukturen umformen, die wir Computer nennen, und durch Hinzunahme weiterer Energie zu Transformationen bringen, die menschliches Verhalten imitieren und in vielem übertreffen (Schach spielen, Go spielen, Quizfragen beantworten, selbständig ein Flugzeug steuern, …), dann erscheint dies fast ’normal‘: biologische Strukturen übertragen ihre Fähigkeit zur Transformation von Materie mittels Energie auf andere materiellen Bereiche und können diese wiederum dazu nutzen, sich selbst weiter zu transformieren.
  6. Wo führt dies hin?
  7. Warum das Ganze?
  8. Gibt es hier irgendeinen nachvollziehbaren Sinn?
  9. Diese Fragen gelten natürlich auch ungebremst für das Universum selbst: wozu ist das Ganze gut?

THEMA NÄCHSTE SITZUNG

  1. Am Schluss gab es keine klare Formulierung für das nächste Thema. Irgendwo liegt der Brennpunkt in diesem Spannungsfeld von biologischen Systemen (Menschen, Tiere) und nicht-biologischen Systemen (Maschinen). Warum können die Maschinen all das? Wo liegen natürliche Grenzen? Was sagen diese Maschinen und ihre intensive Nutzung durch den Menschen über den Menschen? Sind wir nicht letztlich mit unsren Zustandsänderungen von Materie mittels Energie nicht auch nur Maschinen, die sich in den neuen Maschinen quasi zu kopieren versuchen?

LEICHTE TERMINÄNDERUNGEN !!!

  1. Bei den noch ausstehenden Treffen am 15.Mai und 12.Juni 2016 treffen wir uns NICHT erst um 16:00h sondern schon um 15:00h, dann bis 18:00h.

Einen Überblick über alle bisherigen Blogeinträge zur Philosophiewerkstatt bzw. zum Philosophiesommer 2016 finden sich HIER.

Über cagent

Bin Philosoph, Theologe, Kognitionswissenschaftler und hatte seit 2001 eine Vertretungsprofessur und ab 2005 eine volle Professur im Fachbereich Informatik & Ingenieurswissenschaften der Frankfurt University of Applied Sciences inne. Meine Schwerpunke ab 2005 waren 'Dynamisches Wissen (KI)', 'Mensch Maschine Interaktion (MMI)' sowie 'Simulation'. In dieser Zeit konnte ich auch an die hundert interdisziplinäre Projekte begleiten. Mich interessieren die Grundstrukturen des Lebens, die Logik der Evolution, die Entstehung von Wissen ('Geist'), die Möglichkeiten computerbasierter Intelligenz, die Wechselwirkungen zwischen Kultur und Technik, und der mögliche 'Sinn' von 'Leben' im 'Universum'. Ab 1.April 2017 bin ich emeritiert (= nicht mehr im aktiven Dienst). Neben ausgewählten Lehrveranstaltungen ('Citizen Science für Nachhaltige Entwicklung' (früher 'Kommunalplanung und Gamification. Labor für Bürgerbeteiligung')) arbeite ich zunehmend in einem integrierten Projekt mit Theorie, neuem Typ von Software und gesellschaftlicher Umsetzung (Initiative 'Bürger im Gespräch (BiG)). Die einschlägigen Blogs sind weiter cognitiveagent.org, uffmm.org sowie oksimo.org ... ja, ich war auch mal 'Mönch', 22 Jahre lang mit viel Mystik, Theologie und Philosophie; dabei u.a. einige Jahre Jugendsozialarbeiter.