""Erschreckend, wenn man das sieht": KI-Pionier Geoffrey Hinton über KI-Modelle" Will Douglas Heaven (04.05.2023, MIT Technology Review)
Ohne den britisch-kanadischen Forscher hätten sich tiefe neuronale Netze kaum durchgesetzt. Doch nun hinterfragt der Ex-Google-Mitarbeiter Hinton seine Arbeit. ... Geoffrey Hinton wohnt in einem Haus in einer hübschen Straße im Norden Londons. Das Gespräch mit MIT Technology Review fand vier Tage vor seiner Ankündigung statt, Google zu verlassen – eine Nachricht, die schnell um die ganze Welt ging. Der Mann ist ein Pionier im Bereich des Deep Learning, er war an der Entwicklung einiger der wichtigsten Verfahren beteiligt, die das aktuelle Herz moderner Künstlicher Intelligenz bilden. Zehn Jahre war er nach seiner Arbeit an der Universität bei dem Internetriesen beschäftigt. Doch nun will er nicht mehr. Und das hat einen ganz bestimmten Grund: Er macht sich Sorgen um die Zukunft mit KI. ... Vor ein paar Wochen hat er sich den Film "Don't Look Up" angesehen, bei dem ein Asteroid auf die Erde zurast, die Leute sich aber nicht einigen können, was sie tun sollen. Schließlich sterben fast alle – eine Allegorie für das Versagen der Welt bei der Bekämpfung des Klimawandels. "Ich glaube, so ist es auch bei der künstlichen Intelligenz", sagt er – und auch bei anderen großen, unlösbaren Problemen. "Die USA können sich nicht einmal darauf einigen, Sturmgewehre aus den Händen von Teenagern fernzuhalten." ... Hintons Sicht der Dinge ist also eine der Ernüchterung. Man kann seine düstere Einschätzung der kollektiven Unfähigkeit der Menschen, zu handeln, wenn sie mit ernsthaften Bedrohungen konfrontiert sind, durchaus teilen. Es stimmt auch, dass KI echten Schaden anrichten kann – sie verändert den Arbeitsmarkt, verfestigt die Ungleichheit, verschlimmert Sexismus und Rassismus und vieles mehr. Die Menschheit muss sich auf diese Probleme konzentrieren. Aber heißt das auch, dass große Sprachmodelle wirklich zu unseren Beherrschern werden, zu Terminatoren? Vielleicht muss man Optimist sein, das nicht zu glauben. Als MIT Technology Review die Wohnung Hintons verlässt, ist der Himmel über London grau und nass. "Haben Sie Spaß an Ihrem Leben. Vielleicht haben wir nicht mehr so lange", sagt der KI-Pionier, gluckst etwas und schließt die Tür. ...
https://www.heise.de/hintergrund/Erschreckend-wenn-man-das-sieht-KI-Pionier-Geoffrey-Hinton-ueber-KI-Modelle-8985819.html?seite=all pagox
61 Beiträge seit 22.06.2015
05.05.2023 11:54
Die 4. Kränkung des Menschen
Freud definierte 3 Kränkungen:
1. Die kosmologische Kränkung: Die Erschütterung, dass unsere Welt nicht der Mittelpunkt des Kosmos ist. Wir sind weniger als ein unbedeutendes Körnchen in einem Meer.
2. Die biologische Kränkung: Die Ernüchterung, dass wir keine sakralen göttlichen Abkömmlinge sind. Wir sind kluge Tiere, ein bedeutungsloses Zufallsprodukt.
3. Die psychologische Kränkung: Das meiste in unserer Psycho entzieht sich unserer bewussten Kontrolle. Wir sind nicht einmal Herr im eigenem Kopf.
Damit haben wir heute keine Probleme mehr. Irgendwann kamen Maschinen mit denen man Berechnungen automatisieren konnte. Die ersten Schachcomputer zeigten schon, dass Maschinen so gut rechnen können, dass sie uns auch im Schach schlagen. War das tragisch? Nö. Und wenn schon, wir hatten etwas viel cooleres: Kreativität.
Dass Mikrocomputer schneller rechnen können als wir, geschenkt. Wir konnten Kreativität! Das ist wertvoll und teuer! Können nur kluge Menschen!
Und nun kommen da diese neuronalen Netze, und können auf einmal mithalten! Uuuuuh!!
Wir erleben nun die vierte Kränkung: Oh no, wir Menschen sind gar nicht mehr Primus in Sachen Kreativität! Und damit in der Intelligenz überhaupt! Hilfe!!
...
XXXXXXXXXX
655 Beiträge seit 09.11.2016
04.05.2023 12:34
Toller Artikel und faszinierende Technologie
Nach meinen ersten Gesprächen mit ChatGPT4, in denen er mich 'angelogen' und Dinge 'vergessen' hat, bin ich überzeugt von den ungeheuren Möglichkeiten der Technologie in allen Bereichen. Alle Antworten waren überzeugend, wenn auch nicht immer perfekt. Egal ob Übersetzung und Interpretation eines Songtextes oder Erstellung eines Python-Scriptes.
Man kann sich nun leicht ausrechnen, was in 10 oder 20 Jahren daraus werden wird. Kurz gesagt: Input alles (Bilder, Sprache, Musik, Texte aller Art), Output alles, permanent lernend, immer auf dem aktuellen Stand, allgegenwärtig. Ja, das wird die Welt verändern.
Das der Vater der Entwicklung vor Jahrzehnten das nicht absehen konnte, ist verständlich. Erst mit den ungeheuren strukturierten Datenmengen des Internets war nun dieses extreme Lernen möglich, dazu noch gewaltige Rechenzentren mit tausenden Rechenkernen und schon wurde aus KI-Theorie eine selbst für den Entwickler unfassbare Realität.
Wir dürfen dabei sein!
Als die Google-KI Lee Sedol im go geschlagen hatte, war ich beeindruckt. Als die nächste Version der KI seinen Vorgänger, also den Bezwinger von Lee Sedol, in 100 Partien 100 mal geschlagen hatte, war mir auch mulmig... Als dann die Proteinfaltung für die Medikarmentenentwicklung von KIs um den Faktor 1.000 beschleunigt wurden, war mir endgültig klar, was da auf uns zukommt, im Guten wie im Schlechten. Wie immer :)
Auch wenn Geoffrey Hinton schon alt ist, so hoffe ich doch, dass er noch ein paar Jahre die Auswirkungen seiner Forschungen kritisch begleiten kann. Die akteullen Diskussion um Copyrights und Extremismus finde ich ein bisschen lächerlich. Einen extremen Text kann ein Spinner auch ohne KI schreiben, ein Kunstwerk im Stil eines anderen Malen kann auch jeder begabte Maler/Fälscher. Aber immerhin, das Problembewusstsein entwickelt sich. Gestern sind an der Börse zahlreiche Anbieter von Bildungsangeboten abgestürzt, da ein Vorstand zugegeben hat, dass KIs für das Geschäftsmodell übel sind.
Popcorn raus, Netflix ist nichts gegen diese Realität!
Das Posting wurde vom Benutzer editiert (04.05.2023 12:36).
...
