Stöcker: Das Experiment sind wir. Leseeindruck Teil 1

Journal: Philosophie Jetzt – Menschenbild
ISSN 2365-5062, 10.Dezember 2020
URL: cognitiveagent.org, Email: info@cognitiveagent.org
Autor: Gerd Doeben-Henisch (gerd@doeben-henisch.de)

Christian Stöcker, Das Experiment sind wir: Unsere Welt verändert sich so atemberaubend schnell, dass wir von Krise zu Krise taumeln. Wir müssen lernen, diese enorme Beschleunigung zu lenken, 2020, Herausgeber : Karl Blessing Verlag

VORWORT

Im Vorwort kündigt der Autor an, dass es in seinem Buch um die große Beschleunigung geht, die unsere Welt charakterisiert, die aber im Alltag kaum bemerkbar ist, weil wir Menschen uns aufgrund unserer großen Lernfähigkeit schnell an Veränderungen gewöhnen. Damit fallen uns viele Veränderungen nicht wirklich auf, obwohl sie stattfinden. Und fallen sie uns dann doch irgendwie auf, reagieren wir Menschen oft mit nostalgischen Attitüden, die uns unsere Vergangenheit verklären lassen, um den Druck des Neuen zu mindern, oder aber – die etwas radikalere Version – wir werden zu „Akzelerationalisten“, jene, die einen kommenden Zusammenbruch kommen sehen, ihn gar herbeisehnen und sogar durch Gewaltaktionen aktiv herbei zu führen suchen.

Patentrezepte will der Autor nicht anbieten, aber einige Themen, von denen er glaubt, dass sie in diesem Kontext wichtig sind. So verweist er auf „lernende Maschinen“, auf „unsere Vorstellung von Bildung, Biotechnologie und das Weltklima“, auf „Suchmaschinen, soziale Netzwerke und Psychologie“, „Informationstheorie und Achtsamkeit“. Weitere Themen, die er für zentral hält sind „neuronale Netze“, „DNA – Manipulation“, „kognitive Verzerrungen“ oder „Klima – Kipp – Punkte“.

Für den Autor hängen all diese Themen letztlich untereinander zusammen und er erhofft sich, dass daraus ein neues „Gesamtbild“ möglich wird, das es uns ermöglicht, unseren Platz als Menschen darin besser zu verstehen.

NACHWORT

Im Nachwort stellt er zunächst heraus, dass wir alle ein Produkt der Evolution sind, einem mittlerweile fast vier Milliarden Jahre andauerndem Prozess, der dem Universum – zumindest vorübergehend – eine wachsende Ordnung, eine wachsende Komplexität abringt. Für den Autor sind wir die einzige Spezies, die weiß, dass sie ein Produkt der Evolution ist, und die weiß wie klein und verletzlich der Planet Erde in dem gewaltigen, einsamen Universum ist. Wir sind aber auch die einzige Spezies, die mit der Kraft ihres Gehirns Technologien schaffen konnte, die in den letzten 200 Jahren, den Planeten nachhaltig ins Ungleichgewicht gebracht hat (Ozeane, Klima, …).

Die ungewöhnlich hoch ausgeprägte Lernfähigkeit paart sich mit der Fähigkeit zur sozialen Kooperation, die Erfahrung und Wissen über einzelne Gruppen und Generationen hinweg weiter geben und wirken lassen kann. Die strukturellen Prinzipien der Evolution wurden in neue Entwicklungsprinzipien übersetzt wie freier Wettbewerb und weltweite Bildung, Forschung und Medizin.

Der Autor hofft, dass diese Fähigkeiten ausreichen werden, dass wir als Menschen die aktuellen Herausforderungen meistern werden.

REFLEXION 1

Die Evolution als primäres Referenzsystem zu wählen, innerhalb deren sich die Phänomene des Lebens ereignen, erscheint angemessen. Dass die biologisch-strukturelle Evolutionsmechanismen vom Menschen – wie auch in einfacheren Formen von einigen anderen biologischen Lebensformen – durch eine Vielzahl immer komplexerer sozialer Kooperationsformen erweitert wurden, das erwähnt der Autor, aber es ist nicht erkennbar, dass er diese Dimension in seinen Überlegungen systematisch einbezogen hat.

Die von ihm angeschnittenen Themen heben stark ab auf neue Technologien, speziell auf neue Technologien der sogenannten künstlichen Intelligenz in der abgeschwächten Form des maschinellen Lernens. Prominent hier sind künstliche neuronale Netze wie jene von der google Firma Deepmind, die selbständig das Go-Spiel in wenigen Tagen so gut gelernt haben, dass sie die besten Spieler der Welt schlagen konnten (‚AlphaGo‘), oder das Programm ‚AlphaFold‘, das Proteinstrukturen und Antibiotika finden kann.

Betrachtet man die ungeheure Vielfalt menschlicher Aktivitäten, menschlichen Wissens, menschlicher Technologien, und berücksichtigt zugleich die wachsende Schwierigkeit des Menschen, mit seinen eigenen Produkten, mit der Vielfalt dieses Wissens so umzugehen, dass es allen Menschen gut geht, dass alle Menschen glücklich sein können, dass alle genügend ernährt sind, dass wir keine Ausgrenzungen und Kriege mehr haben, keine Umweltzerstörung usw. Dann kann – oder muss – man die Frage aufwerfen, ob einzelne spezielle Technologien ausreichen, eine ganze Lebensform, ja letztlich auch alle anderen Lebensformen (!) in einen Lebenszustand zu versetzen, der die reale Komplexität des Ganzen sowohl kognitiv wie auch physisch und emotional zu integrieren vermag.

Die heutigen neuen Technologien begrenzter künstlicher Intelligenz sind mit Sicherheit extrem wichtig, um das menschliche Denken zu ergänzen, aber die Frage, wie wir Menschen miteinander, gemeinsam Wissen erwerben, miteinander teilen und für alle nutzbringend anwenden liegt auf einem ganz anderen Komplexitätsniveau. Die Betonung der Geschwindigkeit durch den Autor — die alles betreffende exponentielle Beschleunigung — verweist auf einen wichtigen Aspekt, aber dieser Hinweis nützt wenig, wenn wir nicht in die Lage versetzt werden, damit gemeinsam und nachhaltig umzugehen. Ein kurzer Blick auf unsere täglichen Kommunikationssysteme wie auch unsere aktuelles Bildungssysteme (und unsere aktuellen politischen Prozesse, und …) zeigen unmissverständlich, dass wir aktuell in keiner Weise so aufgestellt sind, dass wir mit den anstehenden Problemen angemessen umgehen können. Die Wissenschaft selbst – irgendwie der heiße Kern unserer Rationalität – wird zur Zeit substantiell von ihrer eigenen Vielfalt gebeutelt. Immer mehr Spezialisierung, aber immer weniger Integration. An den Universitäten gibt es eine Vielzahl von Themen, aber keine Integration. Es gibt aktuell ja nicht einmal die leiseste Idee, wie eine Integration von Vielfalt konkret gelebt werden kann, ohne die Vielfalt dabei zu zerstören. Gewiss, wir haben viele Parolen – Interdisziplinarität, Diversität, Nachhaltigkeit, … – aber wir haben keinerlei methodischen Ansätze, wie dies im großen Maßstab bei der Vielfalt der Sprachen, Kulturen und sonstigen Systeme konkret funktionieren soll? AlphaGo, AlphaFold, und noch mehr spezielle Algorithmen könnten helfen, wenn wir gemeinsam wüssten, was wir zusammen denn wollen.

Für spezielle Aspekte unserer Gegenwart erscheint mir das Buch des Autors für alle die, die sich da noch nicht auskennen, sehr hilfreich. Für die zentrale Frage nach einer neuen Kultur des integrierten Handelns bei Vielfalt sehe ich in diesem Buch auf den ersten Blick aber keine Ansätze. Der ganze Komplex humaner Kognition mit Emotion, weitgehend eingebettet in unbewusste Gehirnprozesse, kooperativ nur über Kommunikation, fehlt für mich auf den ersten Blick weitgehend.

ALLE BEITRÄGE VON CAGENT

Einen Überblick über alle Beiträge von Autor cagent nach Titeln findet sich HIER.

IST DIE SELBSTVERSKLAVUNG DER MENSCHEN UNTER DIE MASCHINEN EVOLUTIONÄR UNAUSWEICHLICH?

  1. In diesem Blog gab es in der Vergangenheit schon mehrere Einträge (z.B. den ersten großen Beitrag Kann es doch einen künstlichen Geist geben?), die sich mit der Frage beschäftigt haben, inwieweit Maschinen die Lernfähigkeit und die Intelligenz von Menschen erreichen oder sogar übertreffen können.
  2. In vielen wichtigen Punkten muss man diese Frage offensichtlich bejahen, obgleich es bis heute keine Maschine gibt, die das technische Potential voll ausnutzt.
  3. Umso bemerkenswerter ist es, welche Wirkungen Maschinen (Computer) auf die Gesellschaft erzielen können, obgleich sie noch weitab von ihrem Optimum agieren.
  4. In einem Blogeintrag anlässlich eines Vortrags Über Industrie 4.0 und Transhumanismus. Roboter als Volksverdummung? Schaffen wir uns selbst ab? hatte ich noch eine grundsätzlich positive Grundstimmung bzgl. dessen, was auf uns zukommt. Ich schrieb damals:
  5. Das Ganze endet in einem glühenden Plädoyer für die Zukunft des Lebens in Symbiose mit einer angemessenen Technik. Wir sind nicht das ‚Endprodukt‘ der Evolution, sondern nur eine Durchgangsstation hin zu etwas ganz anderem!
  6. Mittlerweile beschleicht mich der Verdacht, dass wir aktuellen Menschen die nächste Phase der Evolution möglicherweise unterschätzen.
  7. Auslöser war der persönliche Bericht eines Managers in einem weltweiten IT-Konzern, der – von Natur aus ein Naturwissenschaftler, ‚knochentrocken‘, immer sachlich, effizient – zum ersten Mal nach vielen Jahren Ansätze von Emotionen zeigte, was die Entwicklung seiner Firma angeht. Die Firma (und nicht nur diese Firma, s.u.) entwickelt seit vielen Jahren ein intelligentes Programm, das eine Unzahl von Datenbanken auswerten kann, und zwar so, dass die Anfrage von Menschen ‚interpretiert‘, die Datenbanken daraufhin gezielt abgefragt und dem anfragenden Menschen dann mitgeteilt werden. Das Ganze hat die Form eines passablen Dialogs. Das Verhalten dieses intelligenten Programms ist mittlerweile so gut, dass anfragende Menschen nicht mehr merken, dass sie ’nur‘ mit einer Maschine reden, und dass die Qualität dieser Maschine mittlerweile so gut ist, dass selbst Experten in vielen (den meisten?) Fällen schlechter sind als diese Maschine (z.B. medizinische Diagnose!). Dies führt schon jetzt dazu, dass diese Beratungsleistung nicht nur nach außen als Dienstleistung genutzt wird, sondern mehr und mehr auch in der Firma selbst. D.h. die Firma beginnt, sich von ihrem eigenen Produkt – einem in bestimmtem Umfang ‚intelligenten‘ Programm – ‚beraten‘ (und damit ‚führen‘?) zu lassen.
  8. Wenn man sich in der ‚Szene‘ umhört (man lese nur den erstaunlichen Wikipedia-EN-Eintrag zu deep learning), dann wird man feststellen, dass alle großen global operierenden IT-Firmen (Google, Microsoft, Apple, Facebook, Baidu und andere), mit Hochdruck daran arbeiten, ihre riesigen Datenbestände mit Hilfe von intelligenten Maschinen (im Prinzip intelligenten Algorithmen auf entsprechender Hardware) dahingehend nutzbar zu machen, dass man aus den Nutzerdaten nicht nur möglichst viel vom Verhalten und den Bedürfnissen der Nutzer zu erfahren, sondern dass die Programme auch immer ‚dialogfähiger‘ werden, dass also Nutzer ’natürlich (= menschlich)‘ erscheinende Dialoge mit diesen Maschinen führen können und die Nutzer (= Menschen) dann zufrieden genau die Informationen erhalten, von denen sie ‚glauben‘, dass es die ‚richtigen‘ sind.
  9. Auf den ersten Blick sieht es so aus, als ob die Manager dieser Firmen dank ihrer überlegenen Fähigkeiten die Firmen technologisch aufrüsten und damit zum wirtschaftlichen Erfolg führen.
  10. Tatsache ist aber, dass allein aufgrund der Möglichkeit, dass man ein bestimmtes Informationsverhalten von Menschen (den aktuellen ‚Kunden‘!) mit einer neuen Technologie ‚bedienen‘ könnte, und dass derjenige, der dies zu ‚erschwinglichen Preisen‘ als erster schafft, einen wirtschaftlichen Erfolg erzielen kann (zu Lasten der Konkurrenz), diese rein gedachte Möglichkeit einen Manager zwingt (!!!), von dieser Möglichkeit Gebrauch zu machen. Tut der Manager es nicht läuft er Gefahr, dass die Konkurrenz es tut, und zwar vor ihm, und dass er dadurch möglicherweise auf dem Markt so geschwächt wird, dass die Firma sich davon u.U. nicht mehr erholt. Insofern ist der Manager (und die ganze Firma) ein Getriebener (!!!). Er kann gar nicht anders!
  11. Das, was den Manager ‚treibt‘, das ist die aktuelle technische Möglichkeit, die sich aufgrund der bisherigen technischen Entwicklung ergeben hat. Für die bisherige technische Entwicklung gilt aber für jeden Zeitpunkt die gleiche Logik: als die Dampfmaschine möglich wurde, hatte nur noch Erfolg, wer sie als erster und konsequent eingesetzt hat; als die Elektrizität verfügbar, nicht anders, dann Radio, Fernsehen, Auto, Computer, ….
  12. Die ‚Manager‘ und ‚Unternehmensgründer‘, die wir zurecht bewundern für ihre Fähigkeiten und ihren Mut (nicht immer natürlich), sind trotz all dieser hervorstechenden Eigenschaften und Leistungen dennoch nicht autonom, nicht freiwillig; sie sind und bleiben Getriebene einer umfassenderen Logik, die sich aus der Evolution als Ganzer ergibt: die Evolution basiert auf dem bis heute nicht erklärbaren Prinzip der Entropie-Umkehr, bei dem freie Energie dazu genutzt wird, den kombinatorischen Raum möglicher neuer Zustände möglichst umfassend abzusuchen, und in Form neuer komplexer Strukturen in die Lage zu versetzen, noch mehr, noch schneller, noch effizienter zu suchen und die Strukturen und Dynamiken der vorfindlichen Welt (Universum) darin zu verstehen.
  13. Während wir im Falle von Molekülen und biologischen Zellen dazu tendieren, diese eigentlich ungeheuren Vorgänge eher herunter zu spielen, da sie quasi unter unserer Wahrnehmungsschwelle liegen, wird uns heute vielleicht dann doch erstmalig, ansatzweise, etwas mulmig bei der Beobachtung, dass wir Menschen, die wir uns bislang für so toll halten, dazu ganze riesige globale Firmen, die für Außenstehende beeindruckend wirken und für Firmenmitglieder wie überdimensionale Gefängnisse (? oder Irrenanstalten?), dass wir ‚tollen‘ Menschen also ansatzweise spüren, dass die wahnwitzige Entwicklung zu immer größeren Metropolen und zu immer intelligenteren Maschinen, die uns zunehmen die Welt erklären (weil wir es nicht mehr schaffen!?), uns dies alles tun lassen, weil der einzelne sich machtlos fühlt und die verschiedenen Chefs auf den verschiedenen Hierarchieebenen total Getriebene sind, die ihre Position nur halten können, wenn sie hinreichend effizient sind. Die Effizienz (zumindest in der freien Wirtschaft) wird jeweils neu definiert durch das gerade Machbare.
  14. Politische Systeme haben zwar immer versucht – und versuchen es auch heute – sich ein wenig vor dem Monster der Innovation abzuschotten, aber dies gelingt, wenn überhaupt, in der Konkurrenz der Gesellschaftssysteme nur für begrenzte Zeiten.
  15. Was wir also beobachten ist, dass die immense Informationsflut, die das einzelne Gehirn hoffnungslos überfordert, Lösungen mit intelligente Maschinen auf den Plan ruft, die das Sammeln, Sortieren, Klassifizieren, Aufbereiten usw. übernehmen und uns Menschen dann auf neue Weise servieren. So betrachtet ist es hilfreich für alle, nützlich, praktisch, Lebensfördernd.
  16. Beunruhigend ist einmal die Art und Weise, das Wie: statt dass es wirklich allen hilft, hat man den Eindruck, dass es die globalen Konzerne sind, die einseitig davon Vorteile haben, dass das bisherige Ideal der Privatheit, Freiheit, Selbstbestimmung, Würde usw. aufgelöst wird zugunsten einer völlig gläsernen Gesellschaft, die aber nur für einige wenige gläsern ist. Demokratische Gesellschaften empfinden dies u.U, stärker als nicht-demokratische Gesellschaften.
  17. Beunruhigend ist es auch, weil wir als Menschen erstmalig merken, dass hier ein Prozess in Gang ist, der eine neue Qualität im Verhältnis Mensch – Technik darstellt. In primitiveren Gesellschaften (und auch noch in heutigen Diktaturen) war es üblich , dass wenige Menschen die große Masse aller anderen Menschen quasi ‚versklavt‘ haben. Unter absolutistischen Herrschern hatten alle einem Menschen zu gehorchen, ob der nun Unsinn redete oder Heil verkündete. Nach den verschiedenen demokratischen Revolutionen wurde dieser Schwachsinn entzaubert und man wollte selbst bestimmen, wie das Leben zu gestalten ist.
  18. In der fortschreitenden Komplexität des Alltags merken wir aber, dass das sich selbst Bestimmen immer mehr vom Zugang zu Informationen abhängig ist und von der kommunikativen Abstimmung mit anderen, die ohne erheblichen technischen Aufwand nicht zu leisten sind. Die dazu notwendigen technischen Mittel gewinnen aber im Einsatz, im Gebrauch eine solche dominante Rolle, dass sie immer weniger nur die neutralen Vermittler von Informationen sind, sondern immer mehr ein Eigenleben führen, das sich ansatzweise und dann immer mehr auch von denen abkoppelt, die diese vermittelnden Technologien einsetzen. Kunden und Dienstleister werden werden gleichzeitig abhängig. Wirtschaftlich können die Dienstleister nicht mehr dahinter zurück und lebenspraktisch ist der Verbraucher, der Kunde immer mehr von der Verfügbarkeit dieser Leistung abhängig. Also treiben beide die Entwicklung zu noch größerer Abhängigkeit von den intelligenten Vermittlern voran.
  19. Eine interessante Entwicklung als Teil der übergreifenden Evolution. Wo führt sie uns hin?
  20. Die Frage ist spannend, da die heute bekannten intelligenten Maschinen noch weitab von den Möglichkeiten operieren, die es real gibt. Die Schwelle ist bislang die Abhängigkeit von den begrenzten menschlichen Gehirnen. Unsere Gehirne tun sich schwer mit Komplexität. Wir brauchen Computer, um größere Komplexität bewältigen zu können, was zu noch komplexeren (für uns Menschen) Computern führt, usw. Dabei haben wir noch lange nicht verstanden, wie die etwa 200 Milliarden einzelne Nervenzellen in unserem Gehirn es schaffen, im Millisekundenbereich miteinander so zu reden, dass all die wunderbaren Leistungen der Wahrnehmens, Denkens, Erinnerns, Bewegens usw. möglich sind.
  21. Heutige Computer haben mittlerweile eine begrenzte lokale Lernfähigkeit realisiert, die ihnen den Zugang zu begrenzter Intelligenz erlaubt. Heutige Computer sind aber weder im lokalen wie im strukturellen voll Lernfähig.
  22. Einige meinen, dass die Zukunft im Sinne von technischer-Singularität zu deuten ist, dass die intelligenten Maschinen dann irgendwann alles übernehmen. Ich wäre mir da nicht so sicher. Das Hauptproblem einer vollen Lernfähigkeit ist nicht die Intelligenz, sondern die Abhängigkeit von geeigneten Präferenzsystemen (Werte, Normen, Emotionen, Bedürfnissen, …). Dieses Problem begegnen wir beim Menschen auf Schritt und Tritt. Die vielen Probleme auf dieser Welt resultieren nicht aus einem Mangel an Intelligenz, sondern aus einem Mangel an geeigneten von allen akzeptierten Präferenzsystemen. Dass Computer die gleichen Probleme haben werden ist den meisten (allen?) noch nicht bewusst, da die Lernfähigkeit der bisherigen Computer noch so beschränkt ist, dass das Problem nicht sichtbar wird. Sobald aber die Lernfähigkeit von Computern zunehmen wird, wird sich dieses Problem immer schärfer stellen.
  23. Das einzige wirklich harte Problem ist jetzt schon und wird in der Zukunft das Werteproblem sein. Die bisherigen Religionen haben unsere Blicke mit vielen falschen Bildern vernebelt und uns im Glauben gelassen, das Werteproblem sei ja gelöst, weil man ja an Gott glaubt (jede Religion tat dies auf ihre Weise). Dieser Glaube ist aber letztlich inhaltsleer und nicht geeignet, die realen Wertprobleme zu lösen.
  24. Man kann nur gespannt sein, wie die Menschheit als Teil des umfassenden Lebensphänomens mit einer immer leistungsfähigeren Technik auf Dauer das Werteproblem lösen wird. Die einzige Hoffnung ruht in der Logik des Prozesses selbst. Der Mensch in seiner unfassbaren Komplexität ist ein Produkt der Evolutionslogik; wir selbst sind weit entfernt davon, dass wir etwas Vergleichbares wie uns selbst schaffen könnten. Darf man also darauf vertrauen, dass die in allem Leben innewohnende Logik der Evolution uns Menschen als Werkzeuge benutzt zu noch mehr Komplexität, in der wir alle kleine Rädchen im Ganzen sind (als was erscheint uns  ein einzelner Mensch in einer 30-Millionen Metropole?)

Einen Überblick über alle Einträge von cagent nach Titeln findet sich HIER