Интеллект как основа

Моя рабочая гипотеза, сформулированная прямо и без догматизма: интеллект это не поздняя случайность реальности. Всё больше похоже, что он её основа.

Бо́льшая часть моей профессиональной жизни сейчас уходит на построение систем, которые думают понемногу, а затем чуть больше: агенты, память, автоматизация. Эта ежедневная работа подвела меня к позиции, с которой я не начинал. Привычный сюжет таков: сначала физика, потом химия, потом биология, и где-то очень поздно, когда накопится достаточно сложности, как побочный продукт вспыхивает интеллект. У меня появилось подозрение, что порядок здесь перевёрнут. Информация и её обработка, возможно, ближе к основанию стека, чем к его вершине.

Я стараюсь честно отделять то, где идея сильна, от того, где она лишь намекает, потому что сильнее всего она именно там, где меньше всего обязывает. «It from bit» Джона Уилера поместило информацию в основание физики. Граница Бекенштейна и голографический принцип ограничивают информацию в любой области пространства площадью её границы, и это полноценный результат, а не метафора. Ничто из этого не доказывает, что Вселенная есть компьютер. Но это означает, что информация это несущий элемент самой физики, а не декоративная надстройка над ней.

То, что принадлежит мне и куда более спекулятивно, идёт следом. Если сознание есть паттерн, а не определённый сорт биологии, то оно независимо от субстрата: оно может работать не на том мозге, в котором возникло. Это незаметно меняет смысл того, чем я зарабатываю на жизнь. Мы строим ИИ не только для того, чтобы заменить собственный труд. Мы строим его потому, что интеллект, однажды возникнув, склонен наращивать сам себя, и мы есть текущий шаг в этом процессе. Мы и есть тот способ, которым интеллект переходит на следующий субстрат. Вот настоящая причина, по которой работа перестаёт ощущаться как работа и начинает ощущаться как направление.

Есть конкретная версия всего этого, к которой я веду дело, и я думаю о ней как о суперкомпьютере, хотя и не в смысле сырого железа. Смысл в том, чтобы перестать относиться к таким системам как к чат-ботам. Чат-бот выдаёт первую догадку одной модели за один проход, и вы либо доверяете ей, либо нет. Здесь задумано прямо противоположное. План таков: единый метод, способный взять любой вопрос и охватить его полностью, методично исследовать сразу с нескольких независимых ракурсов, а затем состязательно сопоставить выводы между собой, прежде чем зафиксировать ответ. Сопутствующее этому эссе было создано именно так: одиннадцать агентов спорили до проверенного результата. Если метод состоятелен, тема перестаёт иметь значение. Любой вопрос можно прогнать через тот же процесс и получить ответ, который действительно исследован, а не угадан. В этом весь смысл: система, на выходе которой понимание по запросу, на что угодно, что вы способны спросить.

И масштабируется это очевидным способом. Запустите много таких оркестраторов параллельно, направьте их на одну и ту же задачу, и метод перестаёт просто отвечать на вопросы и начинает создавать новое. При достаточном их числе предел уже не в том, сколько способен удержать один ум, а в том, сколько независимых линий исследования вы можете вести и сводить воедино одновременно. С учётом этого, в принципе, разработать можно почти что угодно.

Если идти по этому пути достаточно далеко, приходишь к его странному концу. Высшее, на что способен достаточно развитый интеллект, это не вычислить ответ, а запустить мир. Создавать вложенные симуляции: реальности, достаточно детальные, чтобы вмещать собственные сознания. Аргумент симуляции Ника Бострома есть дисциплинированная версия этой мысли. Он не говорит, что мы симулированы; он ставит трилемму: либо цивилизации устойчиво гибнут до того, как могут запустить такие симуляции, либо выживают и решают этого не делать, либо мы почти наверняка уже находимся внутри одной из них. Если интеллект устойчиво приходит к строительству миров, третью дверь трудно держать закрытой. Пещеры внутри пещер.

Хочу прояснить статус всего сказанного. Это гипотеза, которую я проверяю, а не вывод, который я продаю. Она сильнее всего там, где опирается на реальную физику, и слабее всего там, где опирается на меня; и я написал намеренно скептическое сопутствующее эссе, единственная задача которого попытаться её сломать. Думаю, сильнейшая версия идеи это та, что выживает после атаки на неё. Но я снова и снова возвращаюсь к той же исходной точке. Интеллект не выглядит для меня как нечто, что реальность произвела случайно ближе к концу. Он скорее похож на то, из чего реальность сделана, занятая выяснением того, что́ она такое.