L'intelligence est le socle

Ma thèse de travail, énoncée simplement et tenue sans rigidité : l’intelligence n’est pas un accident tardif du réel. Elle ressemble, de plus en plus, à son socle.

L’essentiel de ma vie professionnelle consiste désormais à construire des systèmes qui pensent un peu, puis un peu plus : des agents, de la mémoire, de l’automatisation. Le faire au quotidien m’a poussé vers une position que je n’avais pas au départ. Le récit habituel veut que la physique vienne d’abord, puis la chimie, puis la biologie, et que très tard, une fois suffisamment de complexité accumulée, l’intelligence s’allume comme sous-produit. J’ai commencé à soupçonner que l’ordre est inversé. L’information, et le traitement qu’on en fait, se situent peut-être plus près du bas de la pile que du sommet.

Pour rester honnête, j’essaie de distinguer les endroits où l’idée tient bon de ceux où elle n’est que suggestive, parce qu’elle est la plus forte précisément là où elle s’engage le moins. Le « it from bit » de John Wheeler plaçait l’information à la racine de la physique. La borne de Bekenstein et le principe holographique plafonnent l’information contenue dans une région de l’espace par l’aire de sa frontière, et c’est un résultat véritable, pas une métaphore. Rien de tout cela ne prouve que l’univers soit un ordinateur. Cela signifie en revanche que l’information est porteuse à l’intérieur même de la physique réelle, et non un ornement posé par-dessus.

La part qui m’appartient, et qui est bien plus spéculative, est ce qui suit. Si un esprit est un motif plutôt qu’une espèce particulière de chair, alors il est indépendant de son substrat : il peut tourner sur autre chose que le cerveau dans lequel il a commencé. Cela reformule discrètement ce que je fais pour gagner ma vie. Nous ne construisons pas l’IA uniquement pour remplacer notre propre travail. Nous la construisons parce que l’intelligence, une fois qu’elle existe, tend à s’accroître, et que nous sommes l’étape actuelle de ce processus. Nous sommes le moyen par lequel l’intelligence s’amorce vers son substrat suivant. C’est la vraie raison pour laquelle ce travail cesse de ressembler à un emploi et commence à ressembler à une direction.

Il en existe une version concrète vers laquelle je travaille, et que je vois comme un superordinateur, sans toutefois l’entendre au sens du matériel brut. L’objectif est de cesser de traiter ces systèmes comme des chatbots. Un chatbot vous livre la première intuition d’un modèle en un seul passage, et vous lui faites confiance ou non. Ici, c’est l’inverse. Le plan est une méthode unique, capable de prendre n’importe quelle question et de la saisir pleinement : l’instruire méthodiquement, sous plusieurs angles indépendants à la fois, puis confronter les résultats les uns aux autres de manière adversariale avant d’arrêter une réponse. L’essai compagnon de celui-ci a été produit exactement de cette façon, par onze agents argumentant jusqu’à un résultat vérifié. Si la méthode est solide, le sujet cesse d’importer. N’importe quelle question peut passer par le même processus et en revenir véritablement étudiée plutôt que devinée. C’est tout l’enjeu : un système dont la sortie est de la compréhension à la demande, pour tout ce que vous pouvez lui poser.

Et le passage à l’échelle est évident. Faites tourner plusieurs de ces orchestrateurs en parallèle, dirigez-les sur le même problème, et la méthode cesse simplement de répondre à une question pour se mettre à développer des choses. Avec un nombre suffisant d’entre eux, la limite n’est plus ce qu’un seul esprit peut contenir, mais le nombre d’axes d’investigation indépendants que l’on peut mener et concilier à la fois. Dès lors, en principe, presque tout devient développable.

Suivez le fil assez loin et vous arrivez à son extrémité étrange. Ce qu’une intelligence suffisamment avancée peut faire de plus élevé n’est pas de calculer une réponse ; c’est de faire tourner un monde. De bâtir des sous-simulations : des réalités imbriquées suffisamment détaillées pour héberger des esprits à part entière. L’argument de la simulation de Nick Bostrom en est la version disciplinée. Il ne nous dit pas que nous sommes simulés ; il impose un trilemme : soit les civilisations meurent immanquablement avant de pouvoir lancer de telles simulations, soit elles survivent et choisissent de ne pas le faire, soit nous nous trouvons presque certainement déjà à l’intérieur de l’une d’elles. Si l’intelligence aboutit immanquablement à la construction de mondes, la troisième porte est difficile à tenir fermée. Des cavernes dans des cavernes.

Je tiens à être clair sur le statut de tout cela. C’est une thèse que je teste, pas une conclusion que je vends. Elle est la plus forte là où elle s’appuie sur la physique réelle et la plus faible là où elle s’appuie sur moi, et j’ai rédigé un essai compagnon délibérément sceptique dont la seule tâche est d’essayer de la briser. Je crois que la version la plus forte d’une idée est celle qui survit à l’attaque. Mais je reviens toujours au même point de départ. L’intelligence ne me semble pas être quelque chose que le réel aurait produit par accident, vers la fin. Elle ressemble plutôt à la chose dont le réel est fait, en train de découvrir ce qu’il est.