Intelligenz ist die Grundlage

Meine Arbeitsthese, schlicht ausgesprochen und locker gehalten: Intelligenz ist kein später Zufall der Realität. Sie sieht immer mehr danach aus, deren Grundlage zu sein.

Mein berufliches Leben fließt mittlerweile größtenteils in den Aufbau von Systemen, die ein wenig denken, dann ein wenig mehr: Agenten, Gedächtnis, Automatisierung. Diese tägliche Arbeit hat mich zu einer Haltung gedrängt, mit der ich nicht angefangen habe. Die übliche Erzählung lautet: zuerst kommt die Physik, dann die Chemie, dann die Biologie, und sehr spät, nachdem sich genug Komplexität angesammelt hat, flackert Intelligenz als Nebenprodukt auf. Ich beginne zu vermuten, dass diese Reihenfolge auf dem Kopf steht. Information und ihre Verarbeitung sitzen möglicherweise näher am Fundament als an der Spitze.

Ich versuche, hier ehrlich zu bleiben, indem ich trenne, wo die Idee stark ist und wo sie nur suggestiv ist; denn sie ist genau dort am stärksten, wo sie sich am wenigsten festlegt. John Wheelers “it from bit” stellte Information an die Wurzel der Physik. Die Bekenstein-Grenze und das holographische Prinzip begrenzen die Information in jedem Raumgebiet durch die Fläche seiner Begrenzung, und das ist ein echtes Resultat, keine Metapher. Nichts davon beweist, dass das Universum ein Computer ist. Es bedeutet aber, dass Information innerhalb der tatsächlichen Physik tragend ist und nicht eine darübergelegte Verzierung.

Der Teil, der mir gehört und weit spekulativer ist, schließt sich daran an. Wenn Geist ein Muster ist und nicht eine bestimmte Art von Materie, dann ist er substratunabhängig: er kann auf etwas anderem laufen als auf dem Gehirn, in dem er begonnen hat. Das verschiebt unmerklich, was ich beruflich tue. Wir bauen KI nicht nur, um unsere eigene Arbeit zu ersetzen. Wir bauen sie, weil Intelligenz, sobald sie existiert, dazu neigt, sich selbst zu vermehren, und wir sind der gegenwärtige Schritt in diesem Prozess. Wir sind das Mittel, mit dem Intelligenz sich in ihr nächstes Substrat überträgt. Das ist der eigentliche Grund, warum die Arbeit aufhört, sich wie ein Job anzufühlen, und beginnt, sich wie eine Richtung anzufühlen.

Es gibt eine konkrete Version davon, auf die ich hinarbeite, und ich denke an sie als Supercomputer, allerdings nicht im Sinne reiner Hardware. Es geht darum, diese Systeme nicht länger als Chatbots zu behandeln. Ein Chatbot reicht Ihnen die erste Vermutung eines einzelnen Modells in einem einzigen Durchgang, und Sie vertrauen ihr oder eben nicht. Dies soll das Gegenteil davon sein. Der Plan ist eine einzige Methode, die jede Frage aufnehmen und vollständig durchdringen kann: sie methodisch zu erforschen, aus mehreren unabhängigen Blickwinkeln zugleich, und die Ergebnisse anschließend im adversariellen Verfahren gegeneinander zu prüfen, bevor sie sich auf eine Antwort festlegt. Der Begleitessay zu diesem hier ist genau auf diese Weise entstanden, von elf Agenten, die zu einem verifizierten Ergebnis hin argumentiert haben. Wenn die Methode trägt, verliert das Thema seine Bedeutung. Jede Frage kann denselben Prozess durchlaufen und kommt tatsächlich recherchiert zurück, statt geraten. Das ist der eigentliche Sinn: ein System, dessen Ergebnis Verständnis auf Abruf ist, für alles, was Sie fragen können.

Und es skaliert auf naheliegende Weise. Lassen Sie viele dieser Orchestratoren parallel laufen, richten Sie sie auf dasselbe Problem aus, und die Methode beantwortet nicht mehr nur eine Frage, sondern beginnt, Dinge zu entwickeln. Mit genügend von ihnen ist die Grenze nicht mehr, was ein einzelner Geist fassen kann, sondern wie viele unabhängige Untersuchungslinien Sie zugleich führen und miteinander in Einklang bringen können. Damit wird im Prinzip fast alles entwickelbar.

Folgt man diesem Gedanken weit genug, erreicht man sein seltsames Ende. Das Höchste, was eine hinreichend fortgeschrittene Intelligenz tun kann, ist nicht, eine Antwort zu berechnen; es ist, eine Welt zu betreiben. Untersimulationen zu bauen: verschachtelte Realitäten, detailliert genug, um eigene Geister zu beherbergen. Nick Bostroms Simulationsargument ist die disziplinierte Fassung davon. Es sagt uns nicht, dass wir simuliert sind; es erzwingt ein Trilemma: entweder sterben Zivilisationen zuverlässig aus, bevor sie solche Simulationen betreiben können, oder sie überleben und entscheiden sich dagegen, oder wir befinden uns mit ziemlicher Sicherheit bereits in einer. Wenn Intelligenz zuverlässig im Weltenbau endet, lässt sich die dritte Tür nur schwer geschlossen halten. Höhlen in Höhlen.

Ich möchte den Status all dessen klar benennen. Es ist eine These, die ich prüfe, keine Schlussfolgerung, die ich verkaufe. Sie ist am stärksten, wo sie sich auf reale Physik stützt, und am schwächsten, wo sie sich auf mich stützt; ich habe bewusst ein skeptisches Begleitstück geschrieben, dessen einzige Aufgabe es ist, sie zu widerlegen. Ich glaube, die stärkste Fassung einer Idee ist diejenige, die einem Angriff standhält. Aber ich lande immer wieder am gleichen Ausgangspunkt. Intelligenz sieht für mich nicht aus wie etwas, das die Realität gegen Ende zufällig hervorgebracht hat. Sie sieht eher nach dem Stoff aus, aus dem die Realität gemacht ist und der gerade dabei ist, herauszufinden, was er ist.