DER VERSTECKTE BEOBACHTER UND AKTEUR. Wo Denken sich verabschiedet. Notiz

Journal: Philosophie Jetzt – Menschenbild, ISSN 2365-5062
12.April 2018
URL: cognitiveagent.org
Email: info@cognitiveagent.org
Autor: cagent

Philosophie des Beobachters - Vogelperspektive

Philosophie des Beobachters – Vogelperspektive

DER  BEOBACHTER

In den Wissenschaften ist klar, dass es ohne einen Beobachter nichts gibt: keine Experimente mit Messungen, die Daten generieren, und keine Modelle, Theorien, die Daten in Zusammenhänge setzen und damit Deutungs- oder gar Erklärungshypothesen liefern.

Weniger klar ist, dass und wieweit der Beobachter konstitutiv in eine Theorie eingeht und dass eine ’normale‘ Theorie nicht in der Lage ist, ihren eigenen Beobachter zu thematisieren.

Besonders krass ist der Fall in der Physik. Die standardisierten physikalischen Messeinheiten erlauben interessante Modellbildungen zu Strukturen und Dynamiken der realen Welt, es ist mit diesen Daten und Modellen jedoch nicht möglich, den physik- spezifischen Beobachter angemessen zu beschreiben.

Andere Disziplinen wie z.B. die Biologie, die Psychologie oder die Soziologie kommen den komplexen Phänomenen eines Beobachters zwar ’näher‘, aber auch diese – wenn sie denn als empirische Wissenschaften arbeiten – können ihre jeweiligen spezifischen Beobachter nicht mir eigenen ‚Bordmitteln‘ erschöpfend beschreiben. Würden sie es tun, würden sie ihr Wissenschaftsparadigma sprengen; dann müssten sie aufhören, empirische Wissenschaften zu sein.

IRREFÜHRUNG INTERDISZIPLINARITÄT

Im übrigen muss man auch fragen, ob nicht alle Disziplinen auf ihre spezifische Weise Sichten zum Beobachter entwickeln, die  jeweils spezifisch  ‚Recht‘ haben. Nur eine Zusammenschau aller dieser verschiedenen Sichten würde dem komplexen Phänomen ‚Beobachter‘ gerecht, wenngleich prinzipiell unvollständig. Allerdings wäre keine der einzelnen Disziplinen je für sich in der Lage, eine ‚Gesamtschau‘ zu organisieren. Das gibt der normale Theoriebegriff nicht her. Das Reden vom ‚Interdisziplinären‘ ist insofern eine Farce. Hier wird eine Disziplinen-Übergreifende Einheit angedeutet, die es zwischen Einzeldisziplinen prinzipiell nicht geben kann (und auch in der Praxis nie erreicht wird; das scheitert schon an den verschiedenen Sprachen der Disziplinen).

ROLLEN

In der Praxis der Gesellschaft und der Industrie manifestiert sich das Dilemma des versteckten Beobachters im Phänomen der unterschiedlichen Rollen. An einem Systems-Engineering Prozess (SEP) kann man dies verdeutlichen.

Die Manager eines SEP legen Rahmenbedingungen fest, geben Ziele vor, überwachen den Ablauf. Der Prozess selbst wird von unterschiedlichen Experten (Akteuren) gelebt. Diese Experten setzen den ‚durch die Manager gesetzten Rahmen‘ für die Dauer des Prozesses voraus, als gültiges Referenzsystem, innerhalb dessen sie ihre Problemlösung in Kooperation mit anderen Akteuren ‚leben‘.

Innerhalb eines SEP gibt es Akteure , z.B. die Mensch-Maschine Interaktions (MMI) Experten, heute auch schon Akteur-Akteur-Interaktions (AAI) Experten genannt (Akteure können Menschen (biologische Systeme) oder auch mittlerweile Roboter (nicht-biologische Systeme) sein. ‚Cyborgs‘ bilden neuartige ‚Zwitterwesen‘, wo noch nicht ganz klar ist, ob es ‚erweiterte biologische Systeme‘ sind oder es sich hier um eine neue hybride Lebensform als Ergebnis der Evolution handelt). Die MMI oder AAI Experten entwickeln Konzepte für ‚potentielle Benutzer (User)‘, also ‚andere Akteure‘, die in ‚angedachten Abläufen‘ mit ‚angedachten neuen Schnittstellen (Interface)‘ aktiv werden sollen. Werden die Pläne der AAI Experten akzeptiert und realisiert, entstehen für die angedachten Abläufe neue Schnittstellen, mit denen dann andere – dann ‚reale‘ – Akteure‘ arbeiten werden. Tritt dieser Fall ein, dann übernehmen die ‚Anwender (User)‘ einen ‚von anderen Akteuren gesetzten‘ Rahmen für ihr Handeln.

Vom Auftraggeber (Ebene 1) zum Manager eines SEP (Ebene 2) zu den Experten des SEP (Ebene 3) zu den intendierten Anwendern (Ebene 4). Wie sich dies dann wieder auf die umgebende Gesellschaft (Ebene 5) auswirkt, die sowohl Auftraggeber (Ebene 1) als auch Manager von Prozessen (Ebene 2) als auch die verschiedenen Experten (Ebene 3) beeinflussen kann, ist im Normalfall weitgehend unklar. Zu vielfältig sind hier die möglichen Verflechtungen.

Andere Querbeziehungen in einen SEP hinein (kleine Auswahl) treten dort auf, wo z.B. die AAI Experten andere Wissenschaften zu Rate ziehen, entweder über deren ‚Produkte‘ (Artikel, Bücher, Verfahren) oder direkt durch Einbeziehung der Akteure (Psychologie, Psychologen, Soziologie, Soziologen, usw.).

An keiner Stelle in diesem überaus komplexen Rollengeflecht gibt es normalerweise eine Rolle, die offiziell sowohl die spezifischen Aufgaben ‚innerhalb‘ einer Rolle wie auch die ‚Rolle selbst‘ beobachtet, protokolliert, untersucht. Eine solche Rolle würde jeweils vorgegebene Rollen ‚durchbrechen‘, ‚aufbrechen‘, ‚verletzten‘. Das verwirrt, schafft Unruhe, erzeugt Ängste und Abwehr.

HOFNARREN, PHILOSOPHEN

Andererseits gibt es historisch diese Formen in allen Zeiten. In der einen Form ist es der ‚Hofnarr‘, der kraft seiner Rolle grundsätzlich anders sein darf, dadurch feste Muster, Klischees durchbrechen darf, bis zum gewissen Grad wird dies auch erwartet, aber nur bis zu einem gewissen Grad. Unterschwellige Machtstrukturen dürfen in der Regel nicht angetastet werden.

In der anderen Rolle haben wir die Philosophen. Das philosophische Denken kann das einzelwissenschaftliche Denken ‚imitieren‘, es kann aber jederzeit aus diesem Muster ausbrechen und nach den Voraussetzungen des einzelwissenschaftlichen Denkens fragen. Ein Philosoph kann — von seinem Denken her — die immer und überall wirksamen ‚Voraussetzungen‘ von Verhalten und Denken ‚hinterfragen‘, ‚thematisieren‘ und auf diese Weise einer expliziten Reflexion und sogar bis zu einem gewissen Grade einer Theoriebildung zugänglich machen. Der Philosoph als Teil einer Gesellschaft mit seiner Nähe zum ‚Hofnarren‘ darf meistens aber nur soviel anders sein (Schulphilosophie), die die Gesellschaft ihm zugesteht. Vom Standpunkt eines philosophischen Denkens aus kann man unterschiedliche einzelwissenschaftliche Modelle und Theorien ‚als Objekte‘ untersuchen, vergleichen, formalisieren und man kann auf einer ‚Metaebene‘ zu den Einzelwissenschaften ‚integrierte Theorien‘ schaffen; nur so. Interdisziplinarität ist von hier aus betrachtet eine Form von Ideologie, die genau solche Integrationen  verhindert.

WISSENSCHAFTLICHE EINZELSTAATEREI

Der Versuch der Einzelwissenschaften, sich der ‚Gängelei‘ eines philosophischen Denkens zu entziehen, führt bei aller Positivität der einzelwissenschaftlichen Erkenntnisse zu dem großen Wirrwarr, das wir heute um uns herum beobachten können. Ein komplexes Phänomen wie der Homo sapiens wird zwischen den einzelwissenschaftlichen Mühlsteinen zu Sand zerrieben; übrig bleibt nichts. Die verschiedenen biologischen, psychologischen, neurologischen, soziologischen usw. ‚Substrate‘ bilden unterschiedliche Zerrformen, die in keinem Gesamtbild integriert sind. Das kommt einer Abschaffung des Menschen durch den Wissenschaftsbetrieb gleich. Dies erinnert ein wenig an den kleinstaatlichen Flickenteppich, bevor Deutschland ein integrierter Staat wurde; jeder war sein eigener Fürst; sehr schön; komplexere Einheit fand nicht statt. Das menschliche Gehirn bevorzugt Vereinfachungen, und das subjektive Machtgefühl eines jeden fühlt sich geschmeichelt, wenn es sich als (wenn auch kleiner und beschränkter) ‚Fürst‘ fühlen kann.

DIE IMMER WIEDER NEUE ANEIGNUNG VON WELT. Spannend – Schmerzhaft – Überraschend. Nachhall zu einer Jungen-Generation-Tagung

Journal: Philosophie Jetzt – Menschenbild
ISSN 2365-5062, 15.Januar 2018
URL: cognitiveagent.org
Email: info@cognitiveagent.org

Autor: cagent
Email: cagent@cognitiveagent.org

PDF-Dokument

INHALT

I START … 1
II LEITTHEMA … 2
III ZUKUNFT DER ARBEIT … 2
IV IMMERSION UND CYBORGISIERUNG … 3
V ALGORITHMISCHER JOURNALISMUS … 3
VI SELBER SCHREIBEN … 4
VII KRIEGS-KI … 4
VIII KI IST ÄUSSERLICH VIELFACH BESSER, AUCH INNERLICH KOMPETENTER? … 4
IX EX MACHINA SCIENCE FICTION … 5
X NON-KONFORMISMUS IM KONFORMISMUS- EIN MARKENZEICHEN? … 5
XI ETHIK NUR EIN ANHÄNGSEL? … 6
XII RESÜMEE. OFFENE FRAGEN … 6
Quellen …   7

THEMA

Persönlicher Nachhall zu einer wunderbaren Tagung am 13./14.Januar 2018 mit der Generation der Zukunft (15 – 25 Jahre, die ’Newcomer’), angetrieben von einem Team junger Referenten (25 – 35 Jahre, die ’Young Professionals’). Zur Nachahmung empfohlen.

I. START

Die Lawine des Lebens rollt seit 3.8 Milliarden Jahre durch die Zeit. Die jeweilige Gegenwart bildet die Wellenfront. Die 15 – 25 Jährigen gehören zu jenen, die dabei sind auf-zu-wachen als jene, die aufgerufen sind, entweder ’die Welle zu reiten’ oder von ihr getrieben, oder – im worst case scenario – zertrümmert zu werden. Nennen wir sie
die ’Newcomer’.

Noch nahe, und doch schon ein paar Schritte weiter, sind die 25 – 35 Jährigen. Nennen wir sie die ’Young Professionals’.

Jenseits der 35 nimmt die Erfahrungsnähe zu den Newcomern und Young Professionals beliebig ab. Die 65igen, gar 70igen laufen definitiv unter anderen ’Spielregeln’, und ein Zusammenhang mit den Newcomern und Young Professionals ist eher nicht gegeben. Vielleicht noch in jenen ’strukturellen Bereichen’ von Erleben, Erfahren und Denken, denen eine gewisse Zeitlosigkeit zukommt, oder ein exemplarischer Charakter, von dem auch die nachfolgenden Generationen einen Gewinn ziehen können. Nennen wir diese Älteren die ’Fernen Verwandten’; irgendwie hängt man zusammen, aber Genaues weiß man nicht…

Durch eine Art Missverständnis geriet ich als solch ein ferner Verwandter in eine Tagung von Newcomern, angefeuert von den Ideen von Young Professionals. Was im ersten Moment als ein Regiefehler erscheinen mochte, erwies sich dann aber als eine überaus – und zwar wechselseitig, wie es scheint – vielseitige Anregung und
Bereicherung, die eher nach Wiederholung ruft denn zur künftigen Vermeidung.

II. LEITTHEMA

Die ganze Veranstaltung stand unter dem Eindruck der umfassenden Digitalisierung der Gesellschaft, wie diese sich in so vielen Facetten im Alltag bricht, das eigene Leben berührt, alte Orientierungsbilder über den Haufen wirft, neue entstehen lässt, und das sich ’Einrichten’ in dieser neuen bunten Welt der smarten Kleinigkeiten zu einem
Dauerereignis werden lässt.

Während die Newcomer die Welt gar nicht anders kennen als ’so’ und die Young Professionals gerade lernen, wie man hier partiell gestalterisch eingreifen kann und eingreift, erleben die fernen Verwandten diese neue Gegenwart – wenn sie denn noch erleben – beständig als Überschreibung bisheriger Erfahrungs- und Weltbilder, als
Dauerkontrastprogramm, als ein neuartig aggressives Anderes, das sich da Bahn bricht, von dem man nicht sofort sagen kann, was man davon halten soll. Tendenziell tendiert der Mensch zur Abwehr von Neuen, zu Ängsten, und es kostet Wachheit, Interesse, Energie, um sich nicht sogleich in das altbekannte ’Schneckenhaus des Bekannten’ zurück zu ziehen.

So saß ich dann als ferner Verwandter inmitten von Newcomern und Young Professionals, die gemeinsam übten, ihre Welt zu verstehen, und ich war neugierig, wie ihre Sichten aussehen.

III. ZUKUNFT DER ARBEIT

Ein Young Professional aus den Wirtschaftswissenschaften, der zugleich bei einer großen internationalen Crowdsourcing Firma (Zu dieser Firmenform siehe [WE18b]) arbeitet, gab einen Einblick in die viel-schillernde Welt der Arbeit in einer digitalen
Gesellschaft und ihrer zukünftigen Perspektiven. Für seine Analyse orientierte er sich vorwiegend an den Begriffen ’Digitale Technologien’, ’Märkte’ und ’Arbeit’. Der Begriff Arbeit blieb trotz historischer Rückgriffe durchweg ein wenig abstrakt. Von den heutigen Märkten wurden nur einige erwähnt. Bei den digitalen Technologien ging er neben den Grundelementen (Rechner, Netze, Datenbanken, Clouds) dann vor allem auf die Robotik ein, und hier nicht auf die einflussreiche Welt der Industrieroboter und
Fabrikautomatisation, sondern auf die speziellen Forschungen der Firma Boston Dynamics, die eher exotischen Charakter haben.

Dieser gedankliche Ausflug endete mit neueren Forschungen zum Thema ’Zukunft der Arbeit’. Er verweist u.a. auf eine populären Webseite , in der abgeschätzt wird, wie viele Prozente eines Arbeitsfeldes künftig durch die neuen digitalen Technologien ersetzt (substituiert, automatisiert) werden können. Diese Gedanken waren geeignet, ’wach zu machen’, ’auf zu merken’. Es blieb aber unklar, warum nicht der ganze Mensch durch digitale Technologien ersetzt werden kann?

IV. IMMERSION UND CYBORGISIERUNG

Die nächsten Überlegungen kamen aus einer Ecke, in der man sie vielleicht nicht sofort vermutet hätte, von einem Young Professional aus der katholischen Theologie, der als Doktorand am Zentrum für angewandte Pastoralforschung der theologischen Fakultät einer Deutschen Universität arbeitet.

In seinem Beitrag ging es darum, dass digitale Technologien heute durch immer realistischere Präsentation von Ideen nicht nur als dreidimensionale Bilder ermöglichen, sondern auch – durch Einsatz entsprechender Brillen – die scheinbar völlige Verschmelzung von Virtuellem und Realem, von eigenem Körper, realer Welt und virtueller Welt. Die Kombination von sogenannter Angereicherter Realität (Augmented Reality (AR)) (Siehe [WE18a]) und Virtueller Realität (VR) eröffnet nahezu unendliche Anwendungen. Der reale Mensch verschmilzt in seiner Wahrnehmung und seinem
Erleben immer mehr mit einer virtuellen Welt: Immersion findet statt.

Ergänzt wird diese Entwicklung durch die zunehmende digitale Vermessung des Körpers und seiner Funktionen. Im Kontext von Fitness und Gesundheit geben immer mehr Menschen persönliche Daten freiwillig und ungeschützt ab und machen sich damit zu gläsernen Kunden, die für umfassende Manipulationen unterschiedlichster
Geschäftsinteressen verfügbar werden, auch solcher, die gegen das eigene Interesse gerichtet sein können (Krankenkassen, Versicherungen, Finanzinstitute, polizeiliche Dienste, Privatauskünfte, Personalabteilungen von Firmen, …). Der digitale Zwilling gewinnt eine eigene Realität, über die man nur ansatzweise die individuelle
Kontrolle besitzt.

Ergänzt wir diese fortschreitende Immersion des Digitalen in das Reale durch den digitalen 3D-Druck kombiniert mit biologisch verwertbaren Materialien: beliebiger Druck von Prothesen oder gar künstlichen Organen. Damit gewinnt die Vision des Menschen als Cyborg einen weiteren Schub.

Bedenkt man, dass die Technologie der Gen-Analyse und des Gen-Engineering ebenfalls weit fortgeschritten sind, dann kann einem hier dämmern, dass die aktuelle Erscheinungsweise des heutigen Menschen, der heutige Phänotyp des homo sapiens, dabei ist, sich real zu ändern; letztlich nicht nur den Phänotyp, sondern auch den
Genotyp.

Eine Teilnehmerin, ein Newcomer, stellte zwischen drin die Frage: Was haben diese neuen Formen von Leben noch mit Gott zu tun? Kann der alte Gottesglaube hier noch mit halten?

V. ALGORITHMISCHER JOURNALISMUS

Eine andere Young Professional, eine Radiojournalistin, lenkte den Blick auf das Phänomen des algorithmischen Journalismus (Stattdessen wird oft auch der Begriff Roboterjournalismus verwendet, aber das ist eher irreführend. Siehe z.B.: http://roboterjournalismus.com/).  Damit ist jene Anwendung der digitalen Technologie gemeint, bei der ein Computerprogramm – ein Algorithmus – aus vorhandenen Daten und Textmustern einen Text synthetisiert, der wie eine Agenturmeldung oder wie ein
Zeitungsartikel aussieht. Alle algorithmisch erzeugten Textbeispiele, die während des Vortrags präsentiert wurden, klassifizierten die Zuhörer als von einem Menschen geschrieben. Dies zeigt, wie gut diese Algorithmen mittlerweile sind.

Beeindruckend ist auch die Menge der heute schon von Algorithmen erzeugten Texte. So sind es z.B. nicht nur Finanznachrichten, Sportberichte und Wetterberichte, die weitgehend automatisch erstellt werden, sondern immer mehr und fast ausschließlich auch alle Texte zu Produktbeschreibungen von online Shops oder generell
Webauftritten. Ja, mittlerweile können ganze Zeitschriften automatisch erstellt werden (Siehe [JVD16]).

Diese Veränderungen regten zu vielfachen Fragen an: Warum und wie kann die digitale Technologie Texte erzeugen? Gibt es hier eine Grenze? Wie steht es mit der Wahrheit dieser Texte? Können Algorithmen darüber entscheiden, ob eine Meldung wahr ist? Wie verhalten sich diese algorithmischen Texte zu Fake News? Zerstören wir nicht die Öffentlichkeit, die wir in einer demokratischen Gesellschaft brauchen, um eine gemeinsame Meinung zu wahren und nützlichen Sachverhalten zu finden?

VI. SELBER SCHREIBEN

Angesichts der voranschreitenden Algorithmisierung der Textproduktion tat es gut, die eigene Schreibfähigkeit in verschiedenen kreativen Schreibaufgaben auszuprobieren und zu erleben. Unter Anleitung einer anderen Young Professional wurde um die Wette geschrieben. Beim Vorlesen wurde sehr viel Kreativität sichtbar, Humor, Hintersinnigkeit, auch tiefes existenzielles Reflektieren. Hier ein Textbeispiel von vielen:

Überall im Netz
stoße ich auf Texte und Bilder.
Wer hat sie rein gestellt?
Die bösen Trolle?
Die Mafia?
Die Fans von Borussia Dortmund?
Der Vatikan?
Der Super-Welt-Algorithmus, der doch alles machen soll?
Mich hat er nicht programmiert … oder doch?
Sind wir alle nur eine Simulation?
Wie kann ich das ergründen?
Brauche ich dazu die Nummer von Sherlock?

VII. KRIEGS-KI

Als weitere Young Professional trat eine junge Sozialwissenschaftlerin auf. Sie widmete sich dem Phänomen der modernen Kriegführung unter Einbeziehung von künstlicher Intelligenz.

Die Fülle an Daten, die Notwendigkeit zu immer schnelleren Reaktionen, der Kostenfaktor bei konventionellen Waffen, das hohe Risiko für Leib und Leben bei direktem Personeneinsatz, dies sind einige der Faktoren, die dazu beitragen, dass das Militär weltweit danach trachtet, Waffen, ganze Waffensysteme und deren Einsatz zu
automatisieren. Das Identifizieren von Zielen, deren Verfolgung und dann die Entscheidung zum Angriff gehören zum inneren Prozess der Automatisierung.
So rational diese Faktoren für einen Einsatz erscheinen mögen, so unscharf kann aber die reale Situation sein, so unscharf ist auch heute weitgehend die Rechtslage. Die allgemeine Problematik jeder Kriegsführung wird durch eine Automatisierung des Krieges nicht aufgehoben; sie kann aber subtiler werden, da durch die Automatisierung
problematische Teilaspekte so verdeckt werden können, dass den Beteiligten nicht mehr unbedingt klar ist, was sie tatsächlich tun und bewirken. Dies vor allem auch im Bereich der steuernden Algorithmen selbst: wer kennt sie überhaupt? Wer kontrolliert sie? Wieweit können sie überhaupt entscheiden?

 

VIII. KI IST ÄUSSERLICH VIELFACH BESSER, AUCH INNERLICH KOMPETENTER?

Ein zweiter Young Professional aus dem Gebiet der Theologie trat auf. Wie sein zuvor schon auftretender Kollege überraschte auch er mit Überlegungen, die tief in das Phänomen Künstliche Intelligenz (KI) eindrang, speziell im Zusammenhang mit Ethik!
Am Beispiel von Leistungen künstlicher Intelligenzen aus den letzten Jahren wurde verdeutlicht, dass diese KIs den Menschen in immer mehr Bereichen, was die Ausführung (Performanz) betrifft, übertreffen (Schach spielen, Go spielen, Muster erkennen, große Datenmengen durchforsten,… ). Zunehmend können Sie auch spezifische Eigenschaften von Menschen erkennen – z.B. Gefühlszustände – und sie können dies auch ausdrücken.

Das Erkennen im Rahmen eines Turing-Tests, ob ein Verhalten von einem realen Menschen erzeugt wird oder von einer künstlichen Intelligenz, wird immer schwieriger. Streckenweise gelingt es nicht mehr (siehe z.B. die algorithmisch erzeugten Texte im Abschnitt V). Dies verschärft die Frage nach einer möglichen Grenze zwischen Menschen und intelligenten Maschinen. Gibt  es keine Grenze mehr?

Der junge Theologe brachte das Thema Moral und Ethik ins Spiel. Er zitierte Aristoteles dahingehend, dass eine Ethik – verstanden als ein Ethos – gelernt werden muss.

Angesichts der immer größeren Lernleistungen von künstlicher Intelligenz im Bereich komplexer Muster erscheint es nicht völlig ausgeschlossen, dass eine Ethik, die sich in beobachtbarem Verhalten ausdrückt, möglicherweise gelernt werden kann. Was sollte dagegen sprechen? Also können KIs eine selbst erworbene Ethik haben?

Nicht thematisiert wurde die Frage, wo eine Ethik herkommt. Es ist eine Sache, dass eine Gruppe eine schon vorhandene Ethik praktiziert und diese als solche durch Lernen übernommen werden kann. Wie aber entsteht eine Ethik ? Wo kommen die Werte/ die Präferenzen her, die eine Ethik konstituieren? Und was führt dann dazu, dass ein Akteur einen erkannten Wert für sich so akzeptiert, dass künftig dieser Wert zur Referenzpunkt für sein Verhalten wird?

 

IX. EX MACHINA SCIENCE FICTION

Nach so viel Theorie gab es einen künstlerischen Einschub in Gestalt des Sciencefiction Films Ex Machina . Es soll hier nicht auf die Details dieses Films eingegangen werden. Sowohl ästhetisch wie auch inhaltlich gehört er sicher zu einem der besseren Sciencefiction Filmen. Es sei nur so viel gesagt, dass der Film die Idee des Turing-Tests radikaler als sonst umsetzt. Eine (im Film) real existierende KI wird darauf hin getestet, ob sie in der Lage ist, einen Menschen glauben zu machen, dass er geliebt wird, und die KI diesen Menschen dadurch dazu  bringen kann, etwas zu tun, was die KI will, auch wenn es für den Menschen sehr unangenehm und gar gefährlich
wird. Im Film gelingt dies, besser, als der menschliche Versuchsleiter es für möglich gehalten hat. Dies endet mit dem Tod des Versuchsleiters und die äußerlich weiblich erscheinende KI, die einen jungen Informatiker dazu gebracht hat, ihr aus Liebe zu helfen, sperrt den verliebten Informatiker in dem Labor ein und verschwindet in die Welt.

Dieses Ende entspricht den verborgenen Ängsten, die viele Menschen vor den kommenden intelligenten Maschinen haben. Aus dem Film wird nicht klar, worin genau die künstliche Intelligenz besteht. Warum ist sie zu solch einem Verhalten fähig? Warum opfert die KI jenen Partner, der durch sein Verhalten positive Unterstützung
trotz Gefahr signalisiert hatte? Welche Ethik steckt hinter diesem Verhalten?

Es ist letztlich nicht unbedingt Aufgabe des Films, diese Fragen zu klären; der Film verwirklicht sich in einer überzeugenden und spannenden Inszenierung. Die gedankliche Aufklärungsarbeit liegt bei uns, den Zuschauern. Während die Generation der ’fernen Verwandten’ vielleicht einfach die Schultern zucken kann und sich damit
beruhigt, dass es sie nicht mehr wirklich betreffen wird, stellt sich diese Frage für die Newcomer und für die Young Professionals sehr direkt. Einfache Formen von KI sind schon überall da; bessere sind in der Entwicklung. Wo wird dies hinführen?

 

X. NON-KONFORMISMUS IM KONFORMISMUS. EIN MARKENZEICHEN?

Die Frage nach der Erlernbarkeit von Ethik durch KIs stand noch im Raum, als eine andere Young Professional, eine Schauspielerin, Regisseurin und angehende Psychologin in enger Interaktion mit den ZuhörernInnen sichtbar machte, wie tief im Menschen eine Tendenz zum konformen Verhalten verwurzelt ist.

Evolutionsbiologisch verspricht das konforme Verhalten viele Vorteile: zusammen ist man vielfach stärker und besser geschützt. Regel konformes Verhalten erhöht die Planbarkeit, macht das Geschehen überschaubar, transparent, vermindert Unsicherheiten. Insofern kommt der Fähigkeit, voneinander zu lernen, sich anzugleichen, eine hohe Bedeutung zu.

Doch wissen wir aus der Geschichte der Menschheit, aus der Geschichte des homo sapiens, dass Gruppen, ganze Völker irren können, und dass dieser Irrtum zum Untergang der Gruppe oder eines ganzen Volkes führen kann. Eine herrschende Meinung, ein herrschendes Ethos kann also falsch sein, was im Umkehrschluss die
Frage nach der Wahrheit aufwirft. Wann, wie, – und vor allem wer – soll denn eine herrschende Falschheit erkennen?

An dieser Stelle wird sichtbar, dass das Individuum plötzlich eine Rolle bekommt, eine sehr wichtige Rolle: in einer konformen Gruppe mit einer falschen Meinung muss es einzelne geben, die den Mut haben, sich partiell von der herrschenden Meinung zu lösen, um Alternativen zu erkunden, obwohl dies Nachteile bringen kann, gravierende Nachteile. Hier ist möglicherweise auch der Ort für Kreativität, um Neues zu entdecken und auszuprobieren.

Es blieb allerdings offen, ob eine KI sich in diesem radikalen Sinne non-konform zu einem gegebenen Regelsystem verhalten kann. Gegebene Regeln zu imitieren erscheint möglich, aber gegen herrschende Regeln neue Regeln zu erfinden und umzusetzen, möglicherweise zum Preis des individuellen Untergangs, dies erscheint aktuell unklar. Nach welchen Prinzipien sollte eine KI so etwas lernen können? Haben wir hier einen Punkt, der einen Menschen möglicherweise von einer KI grundlegend unterscheidet? Diese letzte Frage macht     deutlich, dass die Frage nach dem, was eine KI prinzipiell kann, letztlich auch eine Frage an das Selbstverständnis von uns Menschen ist: Ob und wie kann ein Mensch Wert-schaffend sein?

 

XI. ETHIK NUR EIN ANHÄNGSEL?

Im letzten Beitrag referierte eine Young Professional mit Erfahrungsfeldern in Philosophie, Literatur und Ethik, dies eingebettet in Technikentwicklung für Menschen. Der Schwerpunkt im Vortrag lag auf dem Phänomen des demographischen Wandels und der Frage, ob und wieweit technische Entwicklungen unter Berücksichtigung der
Digitalisierung Menschen helfen können, mögliche Einschränkungen ihres Lebens im Alter zu überwinden, gerade dann, wenn geeignete menschliche Pflegekräfte im großen Stil einfach nicht vorhanden sein werden?

Es wurden viele konkrete Beispiele von neuen technischen Assistenzsystemen (die meisten in Gestalt von Robotern) vorgestellt. An diesen konkreten Beispielen zeigte sich, wie schwierig eine ethische Fragestellung in konkreten Situationen ist.
Spielt Ethik für die Ingenieure eine Rolle, die eine Vorrichtung erfinden und bauen? Wieweit hat das Umfeld (Pflegeheim, private Wohnung, Pflegeorganisation,…) eine ethische Verantwortung? Wieweit muss sich der Gesetzgeber den Hut aufsetzen? Welche der vielen beteiligten Professionen ist ’wichtiger’: die Pflege, die soziale
Arbeit, die Krankenschwestern, die Ärzte, die Psychologen, die … ?

Diese vereinfachte Aufzählung deutet an, dass sich die Frage der Ethik heute in einem vielfältig verflochtenen Handlungsfeld stellt, bei dem alle Beteiligten ganz unterschiedliche Verstehens-Brillen auf haben. Wie soll hier eine einheitliche Perspektive für die Ethik gewonnen werden? Bräuchte es nicht ein für alle Beteiligten grundlegendes Bild vom Menschen, das alle teilen, und mit Bezug auf das die vielfältigen Phänomene diskutiert werden können?

 

XII. RESÜMEE. OFFENE FRAGEN

Der Wert dieser Tagung lag nicht in erster Linie in einer – wie auch immer gearteten – Perfektion… diese findet sich ja oft auch nicht bei den ’fernen Verwandten’. Der Wert dieser Tagung lag im Willen und der Bereitschaft, sich gemeinsam mit der eigenen Welt als Newcomer und Young Professional auseinander zu setzen, offen, kreativ, intensiv, mit sehr vielen interessanten Perspektiven. Dies ist ganz offensichtlich gelungen.

Ermöglicht wurde diese von einer Tagungsleitung, die den Mut hatte, den Newcomern und Young Professionals zuzutrauen, dass Sie sich in dieser Weise einbringen würden ohne direkte Unterstützung von den ’fernen Verwandten’…

Für die ’Zielgruppe’ der Newcomer war diese Tagung – wie sich herausstellte – ziemlich optimal. Die aktive Beteiligung und die – auch emotional positive – Resonanz war eindeutig. Durch den durchgehenden Mut zu unkonventionellen Fragestellungen und Vorgehensweisen kam die Gruppe vielen zentralen Fragen der Gegenwart sehr nahe.

Der Autor dieses Textes findet folgende (unvollständige) Liste von Fragen für den weiteren Gang der Diskussion für hilfreich:

  1. Was versteht man unter ’künstlicher Intelligenz’?
  2. Wie misst man ’Intelligenz’, bei Menschen und bei Maschinen?
  3. Welche Unterschiede gibt es zwischen Menschen und intelligenten Maschinen?
  4. Was verstehen wir unter ’Lernen’?
  5. Wie unterscheidet sich das Lernen bei Menschen und Maschinen?
  6. Wie verhält sich Intelligenz zum Lernen?
  7. Können wir uns eine stärkere Symbiose von Mensch und intelligenten Maschinen vorstellen?
  8. Wie begründet sich eine Ethik für Alle?
  9. Wo spielt Wahrheit eine Rolle?
  10. Wo spielt Freiheit eine Rolle?
  11. Wie entsteht die Bedeutung von Sprachen?
  12. Wie hängen Freiheit, Wahrheit und Verstehen untereinander zusammen?
  13. Wie konnte das biologische Leben die heutigen komplexen Lebensformen entwickeln, obwohl das Ausgangsmaterial – die Atome und Moleküle – nichts von der Welt verstehen?
  14. Die Sache mit Gott: Vorbei oder müssen wir Gott ganz neu denken (weil unseren bisherigen Denkansätze falsch waren)?

QUELLEN

  • [JVD16] Deutscher Journalisten-Verband (DJV).
    „Roboter-Journalismus. Wenn Computer Texte liefern.“ 2016, URL:
    https://www.djv.de/startseite/service/news-kalender/detail/aktuelles/article/wenn-computer-texte-liefern.html.
  • [US15] National Public Radio (NPR) US. „Will your job be done by a machine? 2015“ URL: https://www.npr.org/sections/money/2015/05/21/408234543/will-your-job-be-done-by-a-machine.
  • [WE18a] Wikipedia-EN. Augmented Reality (AR). 2018. URL: https://en.wikipedia.org/wiki/Augmented reality.
  • [WE18b] Wikipedia-EN. Crowdsourcing. 2018. URL: https://en.wikipedia.org/wiki/Crowdsourcing.
  • [WE18c] Wikipedia-EN. Turing test. 2018. URL: https://en.wikipedia.org/wiki/Turing test.

KONTEXT BLOG

Einen Überblick über alle Blogeinträge von Autor cagent nach Titeln findet sich HIER.

Einen Überblick über alle Themenbereiche des Blogs findet sich HIER.

Das aktuelle Publikationsinteresse des Blogs findet sich HIER