Technologische Singularität

Intelligenz essen Seele auf

Die Wette der Computerentwickler auf die Singularität ist also eine Wette auf die technische Realisierung eines Etwas, von dem man nicht weiß, wie es funktioniert – ja nicht einmal, wie man es eigentlich definieren kann.

Prof. Dr. Jan Söffner
Lehrstuhl für Kulturtheorie und -analyse
 
  •  
    Zur Person
    Prof. Dr. Jan Söffner

    Professor Dr. Jan Söffner, geboren 1971 in Bonn, studierte Deutsch und Italienisch auf Lehramt an der Universität zu Köln. Nach dem erfolgreichen Studienabschluss promovierte er am dortigen Romanischen Seminar mit einer Arbeit zu den Rahmenstrukturen von Boccaccios „Decamerone“. Die nächsten drei Jahre führten ihn als wissenschaftlichen Mitarbeiter an das Zentrum für Literatur- und Kulturforschung nach Berlin. Zurückgekehrt an die Universität zu Köln, erfolgte neben einer weiteren wissenschaftlichen Tätigkeit am Internationalen Kolleg Morphomata die Habilitation. Jan Söffner übernahm anschließend die Vertretung des Lehrstuhls für Romanische Philologie und Vergleichende Literaturwissenschaft an der Eberhard Karls Universität Tübingen und leitete Deutsch- und Integrationskurse für Flüchtlinge und Migranten an den Euro-Schulen Leverkusen. Zuletzt arbeitete er erneut am Romanischen Seminar der Universität zu Köln und als Programmleiter und Lektor beim Wilhelm Fink Verlag in Paderborn. An der ZU wird Professor Dr. Jan Söffner zur Ästhetik der Verkörperung, zur Kulturgeschichte sowie zu Literatur- und Theaterwissenschaften lehren und forschen.  

  •  
    Mehr ZU|Daily
    Außer Kontrolle?
    Regelmäßig warnt Tesla-Chef Elon Musk: Künstliche Intelligenz sei gefährlicher als Atomwaffen. Berechtigte Panik oder Verweigerung vor dem Fortschritt – fragt sich auch ZU-Gastprofessor Hans Ulrich Gumbrecht.
    Fortschritt unterm Hoodie
    Das Silicon Valley gilt für Tech-Pioniere als Tal der Träume. Was das Tal am Leben hält, wie es dem neuen US-Präsidenten begegnet und welche Trends in den Startlöchern stehen, beobachtet ZU-Gastprofessor Hans Ulrich Gumbrecht.
    Marionetten, Menschen, Maschinen
    Naturwissenschaftler sind sich einig: Unser Zeitalter wird vom Menschen gemacht. Doch wer ist Mensch, wenn Technik und Maschinen immer mächtiger werden? Eine Ringvorlesung der ZU geht der Frage nach.
  •  
     
    Hä...?
    Haben Sie Fragen zum Beitrag? Haben Sie Anregungen, die Berücksichtigung finden sollten?
    Hier haben Sie die Möglichkeit, sich an die Redaktion und die Forschenden im Beitrag zu wenden.
  •  
    Teilen
    Empfehlen

Wer hat Angst vor der Singularität? Niemand. Noch vor kurzer Zeit kannten sehr wenige Leute mehr als die physikalische Verwendung des Begriffs – wer ihn hörte, dachte an die Grenzen unseres Raum-Zeit-Kontinuums, an den Urknall und an schwarze Löcher. Doch das ändert sich. Immer mehr, meist junge Leute verbinden den Begriff inzwischen mit Vernor Vinge, Ray Kurzweil und der These, dass künstliche Intelligenz in den nächsten Jahren an den Punkt kommen wird, da sie die menschliche Intelligenz nicht mehr benötigt, immer schnellere Weiterentwicklungen ihrer selbst beginnt und das Universum mit dem Leuchten ihres neuen Geistes erfüllt.


Angst davor hat kaum jemand. Es gab schon zu viele technologische Erlösungsgedanken. Und dieser hier ist einfach viel zu größenwahnsinnig, spinnert und weltfremd, als dass man ihn für voll nehmen könnte.


Und wenn sie kommt, die Singularität? Immerhin warnt Elon Musk immer wieder vor der Entwicklung autonom werdender künstlicher Intelligenzen – und er sollte wissen, wovon er spricht. Schließlich hat Musk neben Tesla, SpaceX und Hyperloop mit OpenAI und Neuralink zugleich auch die Entwicklung künstlicher Intelligenz und deren Vernetzung mit dem menschlichen Gehirn genau im Auge. Vielleicht sollte man also doch darüber nachdenken.

Private Raumfahrt, automatisiertes Fahren: Elon Musk, unter anderem Boss von Tesla und SpaceX, ist für viele Technologieanhänger ein echter Guru. Ausgerechnet er monierte auf der Technikmesse South by Southwest (SXSW) in Austin: Künstliche Intelligenz sei „gefährlicher als Atomwaffen”. Eine erstaunliche Feststellung, arbeitet Musk bei seinen Unternehmen SpaceX und Tesla doch an selbstlernenden Programmen. Laut Musk sind beispielsweise selbstfahrende Autos „Ende nächsten Jahres mindestens 100 bis 200 Prozent sicherer als menschliche Fahrer“.
Private Raumfahrt, automatisiertes Fahren: Elon Musk, unter anderem Boss von Tesla und SpaceX, ist für viele Technologieanhänger ein echter Guru. Ausgerechnet er monierte auf der Technikmesse South by Southwest (SXSW) in Austin: Künstliche Intelligenz sei „gefährlicher als Atomwaffen”. Eine erstaunliche Feststellung, arbeitet Musk bei seinen Unternehmen SpaceX und Tesla doch an selbstlernenden Programmen. Laut Musk sind beispielsweise selbstfahrende Autos „Ende nächsten Jahres mindestens 100 bis 200 Prozent sicherer als menschliche Fahrer“.

Wie Ray Kurzweil 2006 zu seiner Singularitätsthese kam, ist schnell zusammengefasst. Für ihn lässt sich die Geschichte des Universums in sechs aufeinander aufbauende Epochen unterteilen: Zunächst kam die unbelebte Materie (1): Kurzweil begreift sie als Information, die sich physikalischer und chemischer Austauschprozesse bedient. Es folgte das Leben (2): Information, die sich der DNA und biologischer Austauschprozesse bedient. Dann entstanden die Gehirne (3): für Kurzweil Information, die sich neuronaler Austauschprozesse bedient. Mit dem Menschen entstand eine neue Form der Kommunikation in Sprache, Schrift und Datenverarbeitung. Kurzweil versteht das als Information, die sich technologischer Austauschprozesse bedient (4). Vor einiger Zeit sind wir nun ins Stadium der Symbiose von menschlicher und maschineller Intelligenz getreten (5).


Diese Entwicklung soll dann binnen der kommenden zehn bis fünfzehn Jahre in einen Zustand münden, in dem die maschinelle Intelligenz nicht mehr auf den Menschen angewiesen ist (6). Computer lassen das langsame menschliche Denken hinter sich, entwickeln sich gegenseitig in immer schnellerer, sich selbst potenzierender Abfolge – was zu einer für Menschen unvorstellbaren Flut von Erfindungen in immer schnellerer und sich selbst potenzierender Abfolge führt. Für Kurzweil ist das ein Urknall der Intelligenz, für Musk ein schwarzes Loch, für beide eine Apokalypse: eine neue Welt, die die alte Menschheit zurücklässt und einen neuen Geist walten lässt.


Aber wie nah ist die Singularität wirklich? Begreift man die Operationen des menschlichen Gehirns als Rechenleistung, dann hat die Menschheit im Vergleich zu den sogenannten Supercomputern schon eine Weile das Nachsehen: Dass Taschenrechner besser im «Kopfrechnen» sind als wir selbst, ist sogar für ältere Jahrgänge eine Kindheitserfahrung – genauso wie der Umkehrschluss: Wir wissen, dass das, was wir selbst gut können, eben gerade keine bloße Rechenleistung ist.

Computer mit intentionalem Bewusstsein

Nun sind wir damit natürlich nicht schlauer als die Computerentwickler, die genau dieses Problem vor einiger Zeit erkannt haben. Woran sitzen sie also gerade? Eine große Rolle spielt die Hypothese, dass die Singularität erst dort möglich ist, wo Computer ein intentionales Bewusstsein auf der Grundlage eines Gespürs für die Befindlichkeit haben. Dabei gibt es offenbar vor allem ein Problem: Computer sind – wie schon das englische Wort sagt – Ausführende von Rechenleistungen; und ausführen kann man nur etwas, dessen Parameter und Ziele im Vorfeld festgelegt wurden. Auch wenn es inzwischen selbstlernende Computer gibt, die (wie Googles AlphaGo) Go auf «kreative» Weise spielen und darin eigene Strategien entwickeln können, sind sie in diesem Sinne durchaus noch Computer. AlphaGo könnte niemals einen Gedanken fassen wie: «Ich finde im Go keine Gegner mehr – vielleicht sollte ich einmal Schach spielen!» Es fehlt Computern das Gespür für den Sinn einer Situation, in der sie sich befinden, und die damit einhergehende Gerichtetheit: das intentionale Bewusstsein.


Der Kognitionsphilosoph David Chalmers spricht hier vom «hard problem of consciousness», und schon lange vor ihm hat der an frühen Computerentwicklungen beteiligte Phänomenologe Hubert Dreyfus dieses Problem aus dem Umstand hergeleitet, dass man Computer gewissermaßen von oben nach unten entwickelt hat. Sobald sie die für Menschen schwierigsten kognitiven Leistungen wie komplizierte Rechnungen erbringen könnten, so dachte man, wäre der Rest kein großes Problem mehr. Nun fallen den Menschen die höheren kognitiven Leistungen aber nur deshalb so schwer, weil sie aus evolutionärer Sicht sehr späte Anpassungen sind.


Anders als Computer, die primär auf diese Leistungen hin entwickelt wurden, sind Menschen daher auch nicht sonderlich stark im Kopfrechnen – dafür sind sie sehr gut darin, eine Treppe hinunterzugehen oder die Veränderung einer Stimmung zu erspüren. Computer umgekehrt schlagen die besten menschlichen Schach- und Go-Spieler, aber es genügt ein Blick auf den RoboCup (die Fußball-Weltmeisterschaft der Roboter), um zu sehen, dass es wohl noch Jahrzehnte dauern wird, bis eine Mannschaft humanoider Roboter in einer Kreisklasse der E-Jugend bestehen kann.

Die Gefahr am Arm? Mit der Apple Watch tragen Nutzer die digitale Sprachassistentin direkt am Handgelenk, die dort auch fleißig Daten sammelt. Laut aktuellen Schätzungen könnten in den USA schon zehn Prozent der Haushalte über den smarten Lautsprecher Amazon Echo verfügen. In Deutschland hatten einer Statista-Umfrage zufolge bereits Anfang 2016 rund 28 Millionen Menschen Erfahrungen mit Siri und Co. Aber empfinden die Deutschen die Kommunikation mit den virtuellen Helfern auch als angenehm? Dieser Frage haben sich die Hamburger Marktforscher zusammen mit Norstat in einer neuen Erhebung angenommen. Dabei ist herausgekommen, dass die große Mehrheit der Befragten mit den Stimmen von Siri, Cortana, Alexa oder Google Assistant zufrieden oder sehr zufrieden ist. Die Stimmen der jeweiligen Sprachassistenten werden überwiegend als klar verständlich, angenehm und sachlich empfunden. Die wichtigsten Einsatzgebiete für Sprachassistenten sind übrigens: Informationen von Suchmaschinen abrufen, Terminerinnerungen und Wettervorhersagen.
Die Gefahr am Arm? Mit der Apple Watch tragen Nutzer die digitale Sprachassistentin direkt am Handgelenk, die dort auch fleißig Daten sammelt. Laut aktuellen Schätzungen könnten in den USA schon zehn Prozent der Haushalte über den smarten Lautsprecher Amazon Echo verfügen. In Deutschland hatten einer Statista-Umfrage zufolge bereits Anfang 2016 rund 28 Millionen Menschen Erfahrungen mit Siri und Co. Aber empfinden die Deutschen die Kommunikation mit den virtuellen Helfern auch als angenehm? Dieser Frage haben sich die Hamburger Marktforscher zusammen mit Norstat in einer neuen Erhebung angenommen. Dabei ist herausgekommen, dass die große Mehrheit der Befragten mit den Stimmen von Siri, Cortana, Alexa oder Google Assistant zufrieden oder sehr zufrieden ist. Die Stimmen der jeweiligen Sprachassistenten werden überwiegend als klar verständlich, angenehm und sachlich empfunden. Die wichtigsten Einsatzgebiete für Sprachassistenten sind übrigens: Informationen von Suchmaschinen abrufen, Terminerinnerungen und Wettervorhersagen.

Wenn Dreyfus (und auch Chalmers) recht haben, dann liegt hier, also in der Körperlichkeit, der Emotionalität und der Sinnlichkeit, der Schlüssel zur Intentionalität und zum Leben in nicht immer klar im Vorfeld definierten Parametern. Aber wie sollen Computer dahin gelangen, dass sich ihre Daten für sie irgendwie «anfühlen», dass dem, was sie berechnen, eine intentionale Spannung zukommt – wo ihnen doch der Körper fehlt?


Die Versuche zur Lösung des Problems scheinen derzeit grosso modo in drei miteinander verbundene Richtungen zu laufen. Erstens arbeitet man an der Entwicklung einer «neuronal» funktionierenden Hardware, die dem menschlichen Gehirn nachempfunden ist oder aus der Kopplung mit ihm entstehen soll. Fruchtet diese Variante und führt sie zur Singularität, dann kommt diese plötzlich und kann etwa so verlaufen, wie Kurzweil sie sich vorgestellt hat. Bloß kann man Zweifel an seiner aufklärerischen Erleuchtungsphantasie hegen, denn die Notwendigkeit, Computer mit emotiver Befindlichkeit auszustatten, würde vor allem eines zeigen: Es wäre in diesem Szenario nicht die Rationalität, nicht die von reiner Vernunft geleitete Rechenleistung, die die Singularität bewirkte – es wäre stattdessen gerade das vermeintlich «Irrationale», das Sinnliche, Emotive und Körperliche.


Der zweite Weg zur Singularität verliefe über die Vernetzung bestehender künstlicher Intelligenzen, die – so lautet etwa der Plan des Amerikaners Ben Goertzel –, ähnlich wie Hirnregionen, weltüberspannend verbunden würden.
Der dritte Weg ist derjenige von Big Data: Schon seit einer Weile kann Software im großen Stil Daten zur körperlichen und geistigen Befindlichkeit abgreifen. Fotos, Videos und Texte in sozialen Netzwerken, Gesundheits-Apps, Bewegungsdaten, Tonaufzeichnungen von Siri und Alexa, biometrische Gesichtserkennung: All diese Daten erlauben genaue Profile von Präferenzen, Stimmungen, Gesundheitszuständen und ermöglichen es, Software menschengerecht arbeiten zu lassen.

Der Mensch – Befindlichkeitsorgan einer Maschinerie?

Derselbe Vorgang lässt sich aber auch umgekehrt beschreiben, nämlich als Prozess, in dem vernetzte Maschinen sich Intentionen, Befindlichkeiten und Wünsche aneignen, zu denen sie allein (noch) nicht fähig wären. Menschen erscheinen aus dieser Perspektive als Befindlichkeitsorgan einer Maschinerie – und je mehr und je präzisere Daten sie hinterlassen, desto besser lässt sich dieses Organ nach und nach ersetzen: ein langsamerer Weg in die Singularität.


Vermutlich scheitern alle Versuche. Neurowissenschaftler wissen, wie wenig das menschliche Gehirn wirklich erschlossen ist; Philosophen wissen, wie wenig sie das Bewusstsein definieren können. Die Wette der Computerentwickler auf die Singularität ist also eine Wette auf die technische Realisierung eines Etwas, von dem man nicht weiß, wie es funktioniert – ja nicht einmal, wie man es eigentlich definieren kann.


Doch kann diese Einsicht kaum beruhigen. Denn schlimmer noch als das Gelingen einer der Strategien könnte ihr Scheitern sein: Die Geschichte der Computerentwicklung war bisher von zwei Konstanten gekennzeichnet. Erstens wurde sehr selten wirklich das hergestellt, was man herzustellen dachte. Und zweitens hatte das, was man tatsächlich herstellte, immer Konsequenzen, die man nicht vorhergesehen hatte. Insofern ist auch in puncto Singularität mit etwas Unberechenbarem zu rechnen. Mit Maschinen etwa, die sich selbst durch exponentielle Selbstentwicklung immer mehr ermächtigen könnten – während die Menschheit bestenfalls mutmaßen würde, dass die götterhaft intelligente Übermacht um nichts als eine seelenlose Leere kreist. Daran ändern ließe sich dann nichts mehr.

Der Artikel ist am 31.05.2018 unter dem Titel „Die neue Apokalypse heißt Singularität“ in der „Neuen Zürcher Zeitung“ erschienen.


Titelbild: 

| Siyan Ren / Unsplash.com (CC0 Public Domain) | Link


Bilder im Text: 

| NVIDIA Corporation / flickr.com (CC BY-NC-ND 2.0) | Link

| Fikri Rasyid / Unsplash.com (CC0 Public Domain) | Link


Redaktionelle Umsetzung: Florian Gehm

1
1
 
Leserbrief

Haben Sie Anmerkungen zum Beitrag?
Ihre Sichtweise ist uns wichtig! Der Leserbrief gelangt direkt in die Redaktion und wird nach Prüfung veröffentlicht.
Vielen Dank für Ihr Verständnis!

Antwort auf:  Direkt auf das Thema antworten