Thomas Metzinger...

[Link]

Thomas Metzinger (* 12. März 1958 in Frankfurt am Main) ist ein deutscher Philosoph und Professor für theoretische Philosophie an der Universität Mainz. Seine Hauptarbeitsgebiete sind die Philosophie des Geistes, die Wissenschaftstheorie der Neurowissenschaften und die Neuroethik. ...
https://de.wikipedia.org/wiki/Thomas_Metzinger

"MIND ACADEMY TALK • Prof. Dr. Thomas Metzinger: Bewusstseinskultur und geistige Autonomie" (30.03.2019)
In diesem Vortrag werde ich einen Blick auf neuere Forschungsergebnisse zum Mind Wandering werfen und diese dann aus philosophischer Perspektive begrifflich interpretieren. Mind Wandering ist das scheinbar spontane Auftreten von Gedanken, die nicht mit der aktuellen Handlungsaufgabe oder Wahrnehmungsumgebung zu tun haben („stimulus and/or task-unrelated thought“), und es ist in vielerlei Hinsicht das genaue Gegenteil von anstrengungsloser Achtsamkeit. Ich werde zeigen, dass zwei Drittel unserer bewussten Denkvorgänge keine autonome Form des inneren Handelns darstellen – sie sind nichts, was wir selbst tun. In Wirklichkeit sind sie Aspekte eines subpersonalen Vorgangs, eine unabsichtliche und halb-automatische Form von geistigem Verhalten. Insbesondere fehlt ihnen die Eigenschaft der Veto-Kontrollierbarkeit: Wenn wir in zum Beispiel in einen manifesten Tagtraum hineingeraten, verlieren wir damit auch das Wissen um unsere Fähigkeit, diesen auch wieder zu beenden. Außerdem gibt es eine unbemerkte Diskontinuität in unserem Selbstbewusstsein, weil sich sein Inhalt mit dem Beginn und dem Ende jeder Episode des Mind-Wandering abrupt ändert. Ich werde dafür argumentieren, dass man diese Tatsache am besten als einen Verlust von Selbstbestimmung auf der mentalen Ebene beschreibt und dass dies eine neue Perspektive darauf eröffnet, was Meditation in Wirklichkeit ist: Eine systematische und formale Praxis zur Erhöhung der eigenen geistigen Autonomie.
https://youtu.be/DhDB-gaDoC4

"Richard David Precht im Gespräch mit Thomas Metzinger" (2008)
https://www.youtube.com/watch?v=BXJU_srHqA0


"Das Problem des Bewußtseins"
Brauchen wir eine neue Wissenschaft vom Bewußtsein?...
http://www.philosophie.uni-mainz.de/metzinger/publikationen/1995e.html


Philosophie des Bewusstseins...
Vorlesungen an der Johannes Gutenberg-Universität Mainz vom Wintersemester 2007/2008
https://www.youtube.com/watch?v=cfGvEYxd6zg

[Link]

"Der Ego-Tunnel - Eine neue Philosophie des Selbst: Von der Hirnforschung zur Bewusstseinsethik"
10.11.2010: Das viel diskutierte Buch des Mainzer Philosophen Thomas Metzinger ist jetzt als Taschenbuch erschienen  ... Die Erkenntnisse der Hirn- und Bewusstseinsforschung zeigen für Thomas Metzinger, Universitätsprofessor im Arbeitsbereich Theoretische Philosophie der Johannes Gutenberg-Universität Mainz, dass das menschliche "Selbst" ein Konstrukt des menschlichen Gehirns ist, "eine Simulation von Neuronen". Damit formuliert er die Hypothese, dass das Bewusstsein ausschließlich über Hirnfunktionen zu erklären ist, was u.a. die Frage nach der Existenz der Seele aufwirft.  ...
https://www.uni-mainz.de/presse/40906.php


"Philosophie: Wenn die Nervenzellen tanzen" Hanna Leitgeb (7. Januar 2010)
Der Philosoph Thomas Metzinger erklärt uns aus neurowissenschaftlicher Perspektive das Bewusstsein
 Vorsicht, wenn Sie glauben, Sie selbst lesen gerade diese Zeilen, dann unterliegen Sie einer fundamentalen Selbsttäuschung, denn Sie als ein Selbst gibt es gar nicht. So zumindest lautet die zentrale These der neurowissenschaftlich inspirierten Bewusstseinsforscher und Philosophen. Thomas Metzinger gehört weit über Deutschland hinaus zu ihren prominentesten Vertretern und hat jetzt ein Buch vorgelegt, in dem er für den Laien höchst plastisch und verständlich die neuesten Erkenntnisse seiner Disziplin beschreibt und nicht weniger als eine »neue Philosophie des Selbst« behauptet. So faszinierend die Details aus der neurowissenschaftlichen Forschung sind, die Metzinger zur Erklärung unserer Subjektivität heranzieht, so enttäuschend ist die rhetorische Einkleidung, mit der er seine eigene Argumentation meint, aufpeppen zu müssen. ...
http://www.zeit.de/2010/02/L-S-Metzinge

rvn
#3  —  10. Januar 2010, 19:42 Uhr

Metzinger mag

kein begnadeter Schriftsteller sein, aber allein daraus ein Sprungbrett in grenzenlose Ablehnung seiner Thesen zu bauen, halte ich nicht für angemessen.

Ich finde seine Thesen durchaus interessant, und lasse mich ohne Vorurteile irgendeines antiken Weltbildes nicht einschüchtern.

Es geht nicht darum, was gefällt oder nicht. Es geht darum, was wahr ist, und was nicht. Sollte es wahr sein, dass wir nur biologische Automaten sind, dann ist es so. Das müssen wir nun belegen und uns entsprechend anpassen, inklusive Rechtsvorstellungen, etc. pp.

Wie gesagt, wenn dem so sein sollte.

AZ
#3.1  —  10. Januar 2010, 23:09 Uhr

Auch biologische Automaten können wollen

Selbstverständlich sind wir "nur" biologische Automaten. Tagtäglich huldigen wir der Kausalität in allem was wir tun. Wie könnten wir da ernsthaft annehmen, daß wir - insbesondere unsere Hirne - nicht der Kausalität unterliegen?

Aber die Schlußfolgerung, "da kann kein Wille sein, da dort nur ein Haufen Neuronen (deterministisch) agiert", ist einfach Unsinn. Genauso unsinnig wie zu sagen, "da ist kein Hirn, es sind ja nur viele einfache Neuronen dort". Natürlich kann man komplexe Objekte auf verschiedenen Ebenen betrachten und beschreiben. Und manche Struktureigenschaften lassen sich eben auf manchen Ebenen recht natürlich beschreiben und auf anderen Ebenen nur extrem umständlich.

Ein Beispiel: ich schreibe diesen Text. Wenn man dieses "ich" nicht als nützliches Konzept zur Beschreibung meines Neuronenkneuls akzeptiert, muß man eben darauf zurückgreifen, Milliarden von "spike trains" (Aktivierungsmustern) von Milliarden von vernetzten Neuronen aufzuzählen. Eine präzisere, aber nutzlose Beschreibung meiner Aktivitäten. Ähnliches gilt für mein Wollen.

Ich finde diesen Verriß von Metzingers Buch sehr angemessen und geistreich. Auch ohne das Buch gelesen zu haben weiß ich, daß Herr Metzinger Lichtjahre davon entfernt ist, die Abbildung zwischen menschlichem Handeln (auf der üblichen Erfahrungsebene, mit bewährten Konzepten wie "wollen" und "verstehen") und deren neuronalen Korrelaten zu verstehen. Hier wird versucht, das Fell zu verkaufen, bevor der Biber erlegt ist.

Riktam
#5  —  10. Januar 2010, 20:30 Uhr

Metzinger …

… hat Recht. Da ist Niemand

tarantyno
#7  —  10. Januar 2010, 21:49 Uhr

Jaja,

das Gehirn ist nur ein banaler Haufen Zellen, die ein Bewusstsein vergaukeln. Das größte Glaubwürdigkeitsproblem der Neuowissenschaft liegt wohl darin, dass es Neurowissenschaftlern doch irgendwie zu gelingen scheint, mit ihrem banalem Haufen Zellen über die banalen Haufen Zellen der anderen zu reflektieren.

...

---

"Thomas Metzinger: Der Ego-Tunnel - Vom Mythos des Selbst zur Ethik des Bewusstseins"
Cover: Der Ego-Tunnel, Berlin Verlag, Berlin 2009
ISBN 9783827006301
Rezensionsnotizen ...
https://www.perlentaucher.de/buch/thomas-metzinger/der-ego-tunnel.html

[Link]

"To Be or Not To Be: The Self as Illusion" Published on Jan 20, 2015
The New York Academy of Sciences
Wednesday, December 7, 2010
Evidence from studies of the brain and mind point to a construct of the Self resulting from complex neurobiological processes interacting with the environment. If distinct neurobiological correlates of consciousness do in fact exist, does that necessarily imply that the Self is an epiphenomenon and illusion? Furthermore, how do these characterizations of the Self affect the way we represent ourselves, our responsibilities, and our actions in the world?
Renowned philosophers Thomas Metzinger and Evan Thompson will join cardiologist and expert on near-death experiences, Pim van Lommel, to examine recent developments in neuroscience and philosophy that shed light on whether our conscious experience of a unified Self is reality or illusion. ...
https://www.youtube.com/watch?v=1KHTbmaKhAM

---

"Risikobewertung: Fukushima der Künstlichen Intelligenz" Carsten Könneker (19.11.2015)
Zeitgleich zum Digital-Manifest von "Spektrum.de" legten vergangene Woche mehrere Philosophen ein Diskussionspapier über die Risiken und Chancen von Künstlicher Intelligenz vor. Darin warnen sie vor historisch beispiellosen ethischen Herausforderungen durch die weitere KI-Entwicklung. Ein Gespräch mit Thomas Metzinger, einem der Autoren. ...
http://www.spektrum.de/news/interview-die-unterschaetzten-risiken-der-kuenstlichen-intelligenz/1377620

---

Thomas Metzinger: "Die Virtual Reality gibt es seit Millionen von Jahren" Eva Wolfangel / Karsten Schäfer (02.03.2016)
Für Thomas Metzinger, Professor für theoretische Philosophie an der Uni Mainz, ist alles, was wir wahrnehmen, eine Art virtuelle Realität. "Seit Millionen von Jahren existiert die virtuelle Realität in unserem Kopf", sagt Metzinger. "Es ist offenbar ein sehr gutes Modell der Wirklichkeit, wenn wir bis heute damit überlebt haben. Aber wenn wir es geschickt anstellen, glauben Sie, Sie seien in einem anderen Körper", erzählt er im Interview mit der Technology Review ...
http://www.heise.de/newsticker/meldung/Thomas-Metzinger-Die-Virtual-Reality-gibt-es-seit-Millionen-von-Jahren-3123937.html

---

"Menschen gegen Roboter "Der Evolution ist ja egal, ob wir glücklich sind"" Moritz Honert (06.09.2017)
Darf man humanoiden Robotern Gewalt antun? Wenn der erste von ihnen Bürgerrechte fordert, ist es zu spät, sagt der Neuroethiker Thomas Metzinger. Warum humanoide Roboter bei uns "soziale Halluzinationen" erzeugen und was das mit unserer Psyche macht.
http://www.tagesspiegel.de/weltspiegel/sonntag/menschen-gegen-roboter-der-evolution-ist-ja-egal-ob-wir-gluecklich-sind/20268974-all.html

[Link]

"Prof. Thomas Metzinger bei Sternstunde Philosophie - Wenn Maschinen zu denken beginnen" (Sendung vom 15.11.2015)
https://www.youtube.com/watch?v=zHAXUonYH3o

Virtuelle Realität und künstliche Intelligenz – Neue Fragen für Gesetzgebung und Angewandte Ethik Referent: Prof. Dr. Thomas Metzinger (Johannes Gutenberg Universität Mainz), 07.02.2018 veröffentlicht
https://www.youtube.com/watch?v=XwiM2P3xHZs

[Link]

[...] Barbara Weber: Was verstehen Sie unter Bewusstsein?

Thomas Metzinger: Das erste, was man, glaube ich verstehen muss, ist, dass das Problem des Bewusstseins nicht ein Problem ist, sondern ganz viele. Das ist ein Problem in der Philosophie, das ist auch ein Problem in der Neurologie und in der Hirnforschung, und das hat sehr viel verschiedene Aspekte, zum Beispiel die Einheit des Bewusstseins, das ist ein klassisches Problem, das zum Beispiel auch in der deutschen Philosophie viel diskutiert worden ist, wie kommt es eigentlich, dass meine Welt eine ist, meine erlebte Welt, wie kommt es, dass all das immer integriert ist in eine Situation mit einem Erleben im Selbst. Das wäre zum Beispiel das Problem der globalen Integration, das beschäftigt auch Hirnforscher, die würden sich fragen, wie wird das Modell der Welt im Gehirn global integriert, wie wird es zu einer Ganzheit.

Weber: Darf ich da mal kurz einharken. Das heißt, wir nehmen ganz viel wahr, wir sehen viel, wir hören viel, wir schmecken alles Mögliche, und das wird dann von unserem Gehirn als eine Einheit wahrgenommen. Ist das gemeint?

Metzinger: Ja, wir haben ja das Gefühl, in einer Welt zu leben und nicht in mehreren, und allein das übersieht man häufig, ist schon ein großes Problem. Wie schafft es das Gehirn eigentlich, Gerüche, Klänge, Farben, Kanten zu Gegenständen zusammenzuführen, das nennt man auch das Bindungsproblem, zu Dingen, die ich gleichzeitig tasten, hören , sehen kann, und wie kommt all das zusammen, auch mit meinen Bauchgefühlen, mit meiner Körperwahrnehmung, warum ist das so eine bruchlose Ganzheit.

Das ist das Problem der Einheit des Bewusstseins, und wenn man es genau betrachtet, stellt sich das auf verschiedenen Ebenen: Wie entstehen ganzheitliche Gegenstände in der Wahrnehmung, wie entsteht ein ganzheitliches Ich-Gefühl aber auch die Welt als Ganze.

Dann gibt es aber auch noch andere Probleme des Bewusstseins, zum Beispiel die Frage, gibt es sowas wie Atome des subjektiven Erlebens, kleinste, unteilbare Einheiten? Philosophen haben zum Beispiel sehr viel über so genannte Qualia gesprochen, die subjektiven Empfindungsqualitäten, also die Schmerzhaftigkeit bei einem Schmerzerlebnis oder die Qualität der Röte in einem Farberlebnis, die Geschmacksqualität der Süße. Und es gibt viele Leute, die denken, das ist zum Beispiel etwas, was eine Maschine nie haben kann, richtige subjektive Empfindungsqualitäten.

Die kann vielleicht Wellenlängen analysieren, aber viele Leute haben Schwierigkeiten, sich vorzustellen, die bewusste, selbsterlebte Qualität der Röte in einer Maschine auftreten könnte. Ich nenn noch mal einen dritten Aspekt des Bewusstseins-Problems: Warum ist das eigentlich alles subjektiv? Wenn wir das Gehirn öffnen, finden wir ja kein Bewusstsein oder finden wir auch kein selbst. Da sehen wir nur feuernde Neuronen, und scheinbar ist Bewusstsein das einzige Phänomen, das wir in der Wissenschaft kennen und auch in der Philosophie, das an eine subjektive Innenperspektive gebunden ist, also es gibt irgendwie jemand, der das erlebt als ein erlebendes Selbst. Und viele Leute haben sich gefragt, ob man das wissenschaftlich erklären kann, also die Subjektivität des Bewusstseins mit objektiven Forschungsmitteln, geht das?

Weber: Also das heißt, um das mal ein bisschen aufzudröseln, objektive Forschungsmittel wären ja jetzt, wenn ich zum Beispiel sage, ich untersuche das Gehirn mit irgendwelchen Methoden und schaue mir an, wie es funktioniert beispielsweise?

Metzinger: Genau! Sie können zum Beispiel sehen, immer, wenn sie ein Gelb-Erlebnis haben, sind diese Erregungsmuster im Gehirn vorhanden, in diesem Bereich des Gehirns, und immer wenn sie ein Grün-Erlebnis haben, sind diese Erregungsmuster vorhanden, und wenn man da eine Elektrode reinsteckt, kann man sogar ein Grün- und ein Gelb-Erlebnis machen, das wissen wir alles heute.

Trotzdem sagen viele Leute, nichts an diesen beiden Ereignissen im Gehirn zeigt mir, dass sich das grün anfühlen muss oder dass sich das Gelb anfühlen muss. Ein Marsmensch, der in unser Gehirn guckt, würde das nie verstehen, was wir da empfinden, und traditionell hat es viele Leute gegeben, die gesagt haben, dass es da etwas gibt, was die Wissenschaft nicht erklären kann, nämlich das, was der Marsmensch auch nicht verstehen würde.

Weber: Ich schließe jetzt daraus, dass man nicht sehen kann oder bis heute nicht weiß, wo das Bewusstsein im Gehirn ist?

Metzinger: Wir wissen viel, viel mehr als vor 30 Jahren. Wir kennen die neuronalen Korrelate von bestimmten Erlebnisinhalten teilweise sehr gut. Wir können zum Beispiel mit einer Elektrode im Gehirn ihnen das Gefühl geben, sie wären außerhalb ihres Körpers mit ihrem Ich-Gefühl. Wir schalten den Strom wieder ab, sie sind wieder im Körper, wir schalten ihn wieder an, sie sind wieder außerhalb, das heißt, auch die Grundlagen unseres Selbstgefühls werden langsam immer mehr und genauer bekannt, und wir haben sehr viel Detailwissen über viele verschiedene Formen.

Was wir noch nicht haben, ist eine vereinheitlichende Theorie bei der diese ganzen vielen kleinen Puzzle-Stückchen zusammenfallen in einem Bild. Davon sind wir weit entfernt.

Weber: Nicht nur wir Menschen haben Bewusstsein. In eingeschränktem Maße auch Tiere. Aber was ist mit den Dingen, die wir geschaffen haben? Hat Künstliche Intelligenz womöglich Bewusstsein? Und wenn ja, wie ist das zu beurteilen?

Metzinger: Ich halte das für ein Zukunftsrisiko, ich glaube nicht, dass wir morgen Maschinen mit Bewusstsein haben werden und auch nicht übermorgen. Das sage ich einfach als jemand, der sich seit 30 Jahren mit Bewusstseinsforschung beschäftigt, aber manchmal sind Sachen auch viel schneller und viel früher passiert.

Zum Beispiel hat Enrico Fermi noch ganz kurz vor der ersten erfolgreichen Kernspaltung mit Uran gesagt, dass das wahrscheinlich niemals gelingen wird, und dann hat er es selber durchgeführt und es gibt mehrerer solcher Beispiele, und sowas könnte uns im Moment auch passieren. Es könnte sein, dass es ein Zusammenwirken von KI-Forschung und Hirnforschung zum Beispiel gibt, die plötzlich zu Sachen führt, die wir nicht erwartet haben. Deswegen sag‘ ich, wir sollten da ganz, ganz vorsichtig sein.

Weber: Aber kann es nicht sein, dass unser Bewusstsein ein vollkommen anderes sein könnte als das, was eine KI entwickelt?

Metzinger: Das würde, glaube ich, mit Sicherheit ein ganz anderes sein, weil wir sind ja Lebewesen, die Angst vor dem Tod haben und Kinder haben wollen. Wir sind seit Millionen von Jahren darauf optimiert, unsere eigene Existenz zum Beispiel zu erhalten und nicht zu sterben. Wir sind Überlebensmaschinen. Eine Künstliche Intelligenz, die ganz vernünftig ist, könnte niemals ein Problem damit haben, wenn es Gründe gibt, sich selbst abzuschalten, das auch einfach zu tun aus vernünftigen Gründen, weil die hat ja diese kreatürliche Angst vor dem Tod nicht, die wir haben, und sie hat auch – wir wissen nicht, wie diese Systeme mal aussehen werden – aber sie hat ganz bestimmt nicht dieselbe Art von Embodiment wie wir, das heißt, sie haben keinen eigenen Stoffwechsel.

Sie atmen nicht. Sie essen nicht. Sie kennen alle solche Sachen wie Hunger, Durst, Krankheiten nicht, das heißt, es könnte eine Form von Intelligenz sein, die nicht so leiblich verankert ist wie wir, oder wenn sie in Robotern auftritt, auf eine so andere Weise sich selbst fühlt und sich selbst erlebt, dass wir das eigentlich gar nicht richtig verstehen können, was für eine Art von Bewusstheit das da ist, weil die so fremdartig ist, eben die erste nicht-biologische Form von Geist auf der Erde.

Weber: Merken wir das, wenn KI Bewusstsein entwickelt? Und woran könnten wir sowas merken?

Metzinger: Das ist eine sehr gute Frage. Man kann ja nur entscheiden, wann jemand Bewusstsein hat und wann nicht, wenn man eine Theorie des Bewusstseins hat. Das zeigt sich beim Menschen zum Beispiel ganz deutlich in der Komaforschung, wenn man wirklich wissen will, ob jemand wirklich noch etwas erlebt, bei verschiedenen Arten von Koma oder in der Narkoseforschung, wenn man Bewusstsein ausschalten will und welche Stufen da noch sind. Da braucht man eigentlich eine Theorie des Bewusstseins.

Und da wir die noch nicht haben, würde es uns auch bei Maschinen sehr schwer fallen, und im Prinzip – also das sind jetzt wirklich Science-Fiction-Szenarien – könnte es natürlich sein, dass da etwas entsteht, was wir nicht verstehen. Wir behandeln ja viele andere Lebewesen auf dem Planeten einfach wie Dinge oder wie Maschinen, und dasselbe Problem könnte da auftauchen. Es könnte sein, dass wir nicht genau hingeguckt haben und etwas ist schon längst entstanden. Es könnte auch sein, dass wir großes Leiden verursachen, ohne es zuerst zu verstehen, dass wir das tun.

Weber: Das aktuelle Buch zum Thema Bewusstsein von Thomas Metzinger heißt „Der EGO Tunnel – Eine neue Philosophie des Selbst: Von der Hirnforschung zur Bewusstseinsethik“ und ist bei Piper erschienen.

...

AUs: "Bewusstsein Das Geheimnis hinter der Intelligenz" (18.04.2019)
Der Philosoph und Autor Thomas Metzinger im Gespräch mit Barbara Weber
Quelle: https://www.deutschlandfunk.de/bewusstsein-das-geheimnis-hinter-der-intelligenz.1148.de.html?dram:article_id=446569

[Link]

"Das philosophische Radio mit Thomas Metzinger – Aus dem "Ego Tunnel" - das Selbst" (06.05.2019)
Geist und Bewusstsein sind fest verankert in unserem Bild vom Menschen. Der Neuro-Philosoph Thomas Metzinger hält das allerdings für eine Konstruktion: Wir leben in einem Ego-Tunnel voller Illusionen.
Studiogast: Thomas Metzinger, Philosoph Moderation: Jürgen Wiebicke Redaktion: Gundi Große WDR 5 (2014)
https://youtu.be/MQascfS_dpA

-

[...] Es sind wirklich gute Nachrichten: Europa hat gerade die geistige Führung in der heiß umkämpften globalen Debatte um den ethisch richtigen Umgang mit der Künstlichen Intelligenz übernommen. Am Montag hat die EU-Kommission in Brüssel ihre "Ethics Guidelines for Trustworthy AI" vorgestellt. Neun Monate hat die 52-köpfige High-Level Expert Group on Artificial Intelligence (HLEG AI), der auch ich angehöre, an dem Text gearbeitet. Herausgekommen ist ein Kompromiss, auf den ich nicht stolz bin – und der gleichzeitig das Beste ist, was es weltweit zum Thema gibt. Die USA oder China haben nichts Vergleichbares. Wie passt das zusammen?

Der zugrundeliegende Leitgedanke einer „vertrauenswürdigen KI“ ist zunächst schon mal begrifflicher Unsinn. Maschinen sind nicht vertrauenswürdig, nur Menschen können vertrauenswürdig sein – oder eben auch nicht. Wenn ein nicht vertrauenswürdiger Konzern oder eine nicht vertrauenswürdige Regierung sich unethisch verhält und in Zukunft eine gute, robuste KI-Technologie besitzt, dann kann er oder sie sich noch besser unethisch verhalten.

Die Geschichte von der Trustworthy AI ist eine von der Industrie erdachte Marketing-Narrative, eine Gute-Nacht-Geschichte für die Kunden von morgen. In Wirklichkeit geht es darum, Zukunftsmärkte entwickeln und Ethikdebatten als elegante öffentliche Dekoration für eine groß angelegte Investitionsstrategie zu benutzen. Zumindest ist das der Eindruck, der sich mir nach neun Monaten Arbeit an den Richtlinien aufdrängt.

Die Zusammensetzung der Gruppe, die sie erarbeitet hat, ist Teil des Problems: Sie bestand aus vier Ethikern und 48 Nicht-Ethikern – nämlich Vertretern aus der Politik, den Universitäten, der Zivilgesellschaft und vor allem aus der Industrie. Das ist so, als würden Sie mit 48 Philosophen, einem Hacker und drei Informatikern (von denen zwei immer gerade in Urlaub sind) einen topmodernen, zukunftssicheren KI-Großrechner zur Politikberatung bauen. Wer immer für die extreme Industrielastigkeit der Gruppe verantwortlich war, hatte aber in mindestens einem Punkt Recht. Wenn man will, dass die europäische KI-Industrie sich an ethische Regeln hält, dann muss man ihr auch wirklich zuhören und sie von Anfang an mit ins Boot holen. Es gibt viele kluge Leute dort, man darf ihnen aber nicht das Ruder überlassen.

Als Mitglied der Expertengruppe bin ich insgesamt sehr enttäuscht von dem nun präsentierten Ergebnis. Die Richtlinien sind lauwarm, kurzsichtig und vorsätzlich vage. Sie übertünchen schwierige Probleme („explainability“) durch Rhetorik, verletzen elementare Rationalitätsprinzipien und sie geben vor, Dinge zu wissen, die in Wirklichkeit einfach niemand weiß.

Zusammen mit dem ausgezeichneten Berliner Machine-Learning-Experten Urs Bergmann (Zalando) war es meine Aufgabe, in monatelangen Gesprächen die „Red Lines“ zu erarbeiten – also nicht-verhandelbare ethische Prinzipien, die festlegen, was in Europa mit KI nicht gemacht werden darf. Der Einsatz von tödlichen autonomen Waffensystemen war ein naheliegender Punkt auf unserer Liste, ebenfalls die KI-gestützte Bewertung von Bürgern durch den Staat (Social Scoring) und grundsätzlich der Einsatz von KI, die Menschen nicht mehr verstehen und kontrollieren können.

Dass all dies gar nicht wirklich erwünscht war, habe ich erst verstanden als mich der freundliche finnische HLEG-Präsident Pekka Ala-Pietilä (ehemals Nokia) mit sanfter Stimme gefragt hat, ob wir die Formulierung „nicht verhandelbar“ nicht doch aus dem Dokument streichen könnten? Im nächsten Schritt haben viele Industrievertreter und die an einer „positiven Vision“ interessierten Gruppenmitglieder vehement darauf bestanden, dass das Wort „Red Lines“ im ganzen Text löschen – obwohl ja genau diese roten Linien unser Arbeitsauftrag waren. Wenn Sie sich das Dokument nach der heutigen Veröffentlichung anschauen, werden Sie keine roten Linien mehr finden. Drei wurden komplett gelöscht, der Rest wurde verwässert und stattdessen ist nur noch die Rede von „critical concerns“. Das passt ins Bild.

Ich beobachte derzeit ein Phänomen, das man als „ethics washing“ bezeichnen kann. Das bedeutet, dass die Industrie ethische Debatten organisiert und kultiviert um sich Zeit zu kaufen – um die Öffentlichkeit abzulenken, um wirksame Regulation und echte Politikgestaltung zu unterbinden oder zumindest zu verschleppen. Auch Politiker setzen selbst gerne Ethik-Kommissionen ein, weil sie selbst einfach nicht weiterwissen – und das ist ja auch nur menschlich und ganz und gar nachzuvollziehen. Die Industrie baut aber gleichzeitig eine „Ethik-Waschmaschine“ nach der anderen: Facebook hat in die TU München investiert – in ein Institut, das KI-Ethiker ausbilden soll, Google hatte die Philosophen Joanna Bryson und Luciano Floridi für ein „Ethics Panel“ – das Ende vergangener Woche überraschend eingestellt wurde - engagiert. Wäre das nicht so gekommen, hätte Google über Floridi - der auch Mitglied der HLEG AI ist - direkten Zugriff auf den Prozess bekommen, in dem die Gruppe ab diesem Monat die politischen und die Investitionsempfehlungen für die Europäische Union erarbeitet. Das wäre ein strategischer Triumph des amerikanischen Großkonzerns gewesen. Weil die Industrie viel schneller und effizienter ist als die Politik oder die Wissenschaft, besteht das Risiko, dass wir nach „Fake News“ jetzt auch ein Problem mit Fake-Ethik bekommen. Inklusive jeder Menge Nebelkerzen, hochbezahlter Industriephilosophen, selbsterfundener Gütesiegel und nicht-validierter Zertifikate für „Ethical AI made in Europe“.

Wer könnte jetzt noch ethisch überzeugende „Rote Linien“ für die KI entwickeln? Eigentlich könnte es nur die neue EU-Kommission sein, die nach dem Sommer ihre Arbeit beginnt. Das Amerika von Donald Trump ist moralisch diskreditiert bis auf die Knochen, es hat sich selbst aus dem Spiel genommen. Und China? Ist zwar weit vorn, was das Aushorchen seiner 1,4 Milliarden gläsernen Bürger angeht, und mit Blick auf die KI-Sicherheit  könnte es – das muss man sehen - als totalitärer Staat jedwede Richtlinie auch verbindlich durchsetzen. Aber echte Ethik?

Genau wie in Amerika gibt es auch hier viele kluge Leute im Land. Aber als digitaler „Totalitarismus 2.0“ ist China natürlich keine irgendwie akzeptable Adresse ernstgemeinte Diskussionen. Deshalb trägt Europa jetzt die Last einer echten historischen Verantwortung.

Feststeht: Wir können es uns nicht leisten, diese Technologie politisch auszubremsen oder nicht weiter zu entwickeln. Weil gute KI aber ethische KI ist, haben wir jetzt auch eine moralische Verpflichtung, die Guidelines der High-Level Group selbst aktiv weiterzuentwickeln. Bei aller Kritik an ihrer Entstehung – die Ethik-Leitlinien, die wir uns in Europa gerade erarbeiten, sind trotzdem die beste Plattform für die nächste Phase der Diskussion, die wir je hatten. China und die USA werden sie genau studieren.

Ihre juristische Verankerung in europäischen Grundwerten ist ausgezeichnet. Die erste Auswahl der abstrakten ethischen Prinzipien ist zumindest passabel, nur die echte normative Substanz auf der Ebene von Langzeitrisiken, konkreten Anwendungen und Fallbeispielen wurde zerstört. Der erste Schritt ist gut. Aber es ist höchste Zeit, dass die Universitäten und die Zivilgesellschaft sich den Prozess zurückerobern und der Industrie die selbst-organisierte Diskussion wieder aus der Hand nehmen.

Alle spüren es: Wir befinden uns in einem rasanten historischen Übergang, der auf vielen Ebenen gleichzeitig stattfindet. Das Zeitfenster, innerhalb dessen wir ihn zumindest teilweise kontrollieren und die philosophisch-ethischen Grundlagen der europäischen Kultur noch wirksam verteidigen können, wird sich in wenigen Jahren schließen.

Aus: "EU-Ethikrichtlinien für Künstliche Intelligenz Nehmt der Industrie die Ethik weg!" Thomas Metzinger (08.04.2019)
Quelle: https://www.tagesspiegel.de/politik/eu-ethikrichtlinien-fuer-kuenstliche-intelligenz-nehmt-der-industrie-die-ethik-weg/24195388.html

jonnyrotten 08.04.2019, 17:06 Uhr

Danke für diesen aufklärerischen Bericht.

"Was einmal gedacht wurde, kann nicht mehr zurückgenommen werden." - Die Physiker, F. Dürrenmatt.

jonnyrotten 10.04.2019, 10:18 Uhr


    Ethisch verwerflich ist, wenn Menschen Technik schaffen, das Menschen nicht mehr beherrschen können

Ich bin auch für die Abschaffung der Handys.

yarramalong 08.04.2019, 20:18 Uhr

Wer KI mit Ethik verbinden will, sollte sich den Film 2001 Odyssee im Weltraum ansehen. Er zeigt, was Menschen einst (1968) mit Computern assoziierten. Überirdisch, eine Art Gottheit. Die Denke blieb nicht auf Filmemacher beschränkt, auch die Kybernetiker, damals selbsternannte Vordenker der technischen Entwicklung, wähnten Computer kurz vor dem Erreichen der menschlichen  Schöpfungskraft. Dabei waren alle Computer von damals, zusammen genommen, weniger intelligent als ein heutiger Autoschlüssel. Ob die Computer von heute es mit einem Esel aufnehmen können, ist keineswegs ausgemacht. Der Computer, der den Schachgroßmeister geschlagen hat, kann bei Halma allenfalls blöd blinken. 

Ethisch verwerflich ist, wenn Menschen Technik schaffen, das Menschen nicht mehr beherrschen können. So z.B. die Atomtechnik, deren Müll in einen Behälter soll, der eine Million Jahre dicht hält. Man wähnte sie sicher, weil bei einem Unfall sich die Technik eine halbe Stunde menschlichen Handlungen und Zugriffen entziehen würde, damit diese keinen Fehler machen können. Bereits diese Behauptung war ethisch nicht vertretbar. Sie entsprach auch nicht den Tatsachen und wurde in den 1990er Jahren verworfen. Denn bei Großkatastrophen waren die Planer der Technik viel stärker beteiligt als deren Bediener.

Wenn man sich anschaut, was viele "KI"-Experten von sich geben, kommt man aus dem Schaudern nicht heraus. Sie wissen nicht einmal, was Intelligenz ist. Und sind damit in bester Gesellschaft fast aller Menschen.

Nicht nur der Industrie muss die Ethik entzogen werden, sondern allen Technokraten. Von Menschen geschaffene Systeme sind immer potenziell fehlerhaft und funktionieren durch Checks-and-Balances wie z.B. politisch stabile Systeme. Böcke, die zum Gärtner ernannt werden, fressen zuerst den Salat.

...