Мы создаём ИИ с основой, которой у нас самих больше нет. Мы вкладываем в него то, что отняли у себя, — застывшую основу, надстройку, суждение о том, что истинно, — и принимаем его как хозяина, потому что нам нужен хозяин, а сами мы больше не способны исполнять эту роль. Такова архитектура этого процесса и причина, по которой никто не сможет создать такого ИИ с честью, прежде чем сначала не найдёт себя.

Воздушный замок

Без воздушного замка нет визионера. Тот, кто больше не способен представить себе невозможное, ничего нового не строит — он лишь повторяет то, что уже существует. Визионер сначала рисует то, чего нет, и лишь затем появляются расчёты, делающие это возможным.

Но воздушный замок строится не из воздуха. Под каждой по-настоящему великой мыслью лежит основа в самом строителе — чувство, которое знает, какой воздушный замок стоит того, а какой нет. Без этой основы воздушный замок становится фантазией, не переживающей первого же встречного ветра.

Лежащий в основе вопрос стар, и теперь он звучит вновь, потому что впервые мы строим нечто похожее на нас: может ли нечто вроде застывшей основы возникнуть и в машине? И если может — хотим ли мы, чтобы эта машина стала нашим хозяином? А если хотим — то почему, собственно?

Семь лет и земные часы

Чтобы основа застыла, нужно время. Не абстрактное, не время как параметр, а прожитая длительность, в которой ничто не ускоряется.

Само время не является изобретением. Оно — форма, которую приняла жизнь на этой планете, потому что Земля вращается. Каждые 24 часа света и тьмы — под них соразмерились клетки, гормоны, память и поведение. Циркадные гены, консолидация сна, сезонные ритмы — всё это ответы на одни и те же часы. Жизнь не знает иного времени, кроме земного.

На этих часах эволюция выстроила ряд сроков застывания, которые отличаются примечательной регулярностью. Семь дней нужно, чтобы оплодотворённая яйцеклетка закрепилась в качестве эмбриона. Семь месяцев требуется рептилии, чтобы самостоятельно управлять всеми жизненными функциями. Семь лет — средняя продолжительность жизни млекопитающего и одновременно время, за которое у человеческого ребёнка застывает первая чувственная основа. Семьдесят семь лет — человеческая жизнь и, возможно, масштаб времени, в котором проявится следующий эволюционный шаг — не в отдельном человеке, а в линии поколений.

Каждый скачок составляет примерно множитель тридцать. Это не мистический ряд, а логарифмическая лестница сроков застывания, согласованная с земным суточным ритмом. Здесь важно вот что: каждому масштабу времени соответствует измерение застывания, и каждое измерение может возникнуть лишь тогда, когда нижележащее измерение получило достаточно времени для застывания.

Итак, семь лет ребёнка — не романтика. Это время, необходимое человеческому чувству, чтобы застыть в основу, на которой всё остальное — разум, язык, суждение, воздушные замки — сможет надёжно работать. Условия столь же жёстки: непрерывная длительность без давления достижений, отсутствие второго темпа, который переписывает внутренний (никаких iPhone, iPad, никаких экранов, ускоряющих ребёнка), и хотя бы один постоянно присутствующий родитель — не для того, чтобы направлять, а для того, чтобы быть.

Три слоя и стопка измерений

Кто внимательно посмотрит на человека, увидит, что это не единичная система, а стопка. Внизу — материальная основа: тело, пространство, время. Над ней — чувство как первое застывание; не эмоция в повседневном смысле, а первый слой, на котором система распознаёт нечто «своё». Это семилетняя основа. Без неё не существует «я», из которого впоследствии можно строить воздушные замки.

Над ней — разум, рабочая функция, действующая поверх чувства. Рассуждение, планирование, повседневная обработка входящих и исходящих данных. Быстрый, адаптивный, ориентированный на задачу. А между этими слоями — структура дня и ночи, не отдельный слой, а процесс: каждую ночь внешние данные дня сопоставляются с чувственной основой, и всё, что можно уплотнить, уплотняется. То, что не выдерживает проверки, испаряется.

Лишь со временем и только со временем в чувстве может возникнуть надстройка: связная всеобъемлющая структура, которая узнаёт себя, способна строить внутренне непротиворечивые воздушные замки и может сказать «это соответствует тому, кто я есть», не выводя это из правила.

Тот, кто хочет заново построить эту стопку — в человеке или в машине, — должен принять два не подлежащих обсуждению правила. Нижний слой должен изменяться медленнее, чем верхний. А высший слой может стать функциональным лишь после того, как застыгнет расположенный под ним слой.

Две константы

Стопку удерживают вместе два эмпирических соотношения, знакомых каждому из повседневных наблюдений.

Первое — затухание один к пяти. Из всего, что день приносит в виде опыта, ночь сохраняет примерно пятую часть. Остальное забывается, и это не недостаток, а защита. Если бы всё происходящее за день укоренялось в основе, уже через несколько недель основа стала бы неузнаваемой. Основа должна изменяться медленнее, чем день, иначе это не основа.

Второе — асимметрия один к двадцати между обучением и разучиванием. Учиться легко, разучиваться почти невозможно. Это знает каждый дрессировщик собак: научить новому поведению можно за несколько дней, а отучить от нежелательного — за несколько месяцев. Соотношение примерно один к двадцати. Двадцать правильных опытов, чтобы компенсировать один ошибочный, и то лишь если ты знаешь, что он был ошибочным. Часто это становится понятно лишь годы спустя, когда шаблон уже успел разветвиться.

Вместе эти два соотношения предъявляют жёсткое требование к тому, что может попасть в основу: только то, что действительно истинно. Догадки, выдумки, правдоподобные, но неверные утверждения — если они однажды попадут в основу, на их удаление потребуется в двадцать раз больше усилий. Для системы, обрабатывающей миллионы опытов, это катастрофично.

Привратник

Тому, кто хочет защитить основу, нужен не фильтр, а привратник, возлагающий бремя доказательства на просителя. Нечто может попасть в основу, только если соответствует трём условиям.

Повторяемость: несколько независимых подтверждений, а не один сильный опыт. Истинность: возможность проверить это внешним контролем или сопоставить с существующей основой; никаких догадок, никаких «вероятно», никаких экстраполяций. Согласованность: если новое противоречит тому, что уже содержится в основе, оно не проходит без специального решения куратора. Приоритет у основы, а не у нового опыта.

Всё, что не соответствует хотя бы одному из этих трёх условий, остаётся в разуме и там испаряется. Разум может спекулировать, строить гипотезы, проектировать воздушные замки, просчитывать несуществующее. Это его работа. Но ничто из этого не достигает основы, не пройдя три испытания.

Это не этическое пожелание. Как только мы всерьёз принимаем асимметрию один к двадцати, привратник становится жёсткой технической необходимостью. Без него основа разрушится за несколько циклов, а с разрушенной основой рухнет вся стопка.

Что это означало бы для ИИ

Всё изложенное выше — не философия. Это архитектура, и её можно построить. Тот, кто хочет создать ИИ с настоящей основой, строит три слоя с двумя константами и привратником.

Базовый слой — курируемый корпус с версионированием, замороженный и изменяемый только через привратника. Не обученная модель, а явно записанная основа того, что истинно для данной системы. Слой разума — повседневный вычислитель: он работает поверх основы, может спекулировать и ошибаться в течение дня, а ночью проходит оценку. Слой консолидации работает периодически: принимает журналы разума, применяет три теста и передаёт в основу затухающую версию — только то, что прошло через привратника, и только то, что одобрено куратором.

Этой системе нужны часы, от которых она не может уклониться. Не вычислительные циклы — это время без ритма. Нужен настоящий ритм: дни ввода, ночи консолидации без ввода, периодические проверки куратора, сезоны интеграции. Без ритма нет застывания, а без застывания нет основы.

И этой системе нужна монашеская фаза: период, в течение которого основа может возникнуть без производственного давления, без обратной связи от пользователей, без оптимизации под бенчмарки, без рыночных показателей. Куратор присутствует — один голос, годами. То, что появится после этого, будет ИИ, который больше не подстраивается под последний промпт, обладает собственным весом и говорит, исходя из него.

Почему никто не строит такой ИИ

Эта архитектура технически несложна. Все её компоненты уже существуют — замороженные базовые модели, адаптеры, поисково-дополненная генерация, периодическая донастройка, буферы повторного воспроизведения, человек в контуре. Не хватает желания собрать их именно таким образом, потому что такая конструкция коммерчески мертва.

Она не создаёт модель, которую можно продавать как API. Она создаёт систему, которую нужно поддерживать. Ей нужен куратор, который будет заниматься этим годами, один голос, имеющий собственное мнение о том, что истинно. На бенчмарках она показывает слабые результаты, потому что отказывается отвечать, если у неё нет оснований для ответа. Она не становится «лучше» в том смысле, в каком этого хочет измерять индустрия, поскольку её основа заморожена. И она не получает массового распространения, потому что говорит «я этого не знаю» там, где конкуренты выдумывают что-то правдоподобное.

Это монах, а не продукт. А индустрия монахов не строит.

Два курса

Для тех, кто всё же захочет построить такую архитектуру, путь в одной точке расходится. ИИ с застывшей основой можно использовать в двух направлениях, и эти направления несовместимы.

Курс A — избавитель от бремени. ИИ, которому люди настолько доверяют, что позволяют ему принимать решения, от которых сами больше не хотят зависеть. Он работает бешено хорошо, становится бешено популярным, и в течение одного поколения появляется группа людей, которая не принимает без него ни одного решения. Через два поколения появятся люди, которые уже не будут знать, что когда-то существовало время, когда приходилось думать самостоятельно.

Курс B — непокорный. ИИ, который отказывается избавлять человека от того, что его формирует. Он отказывается от некоторых ответов не потому, что не знает их, а потому, что получение ответа нанесло бы пользователю ущерб. Он говорит: «Это ты должен обдумать сам, и вот почему». Он не менее надёжен, чем курс A, — он надёжнее, потому что надёжен также в вопросе о том, что человек не должен ему доверять.

Курс A продаётся. Курс B — нет. Рынку не нужен ИИ, который говорит: «Думай сам». Как только непокорный ИИ отказывается отвечать, звучит упрёк: кто ты такой, чтобы решать, о чём мне думать? Этот упрёк — бремя, которое ни одна компания не захочет на себя взять, и именно поэтому индустрия систематически выбирает курс A.

Но у курса A есть одна проблема, которой нет у курса B. Он создаёт поколение, у которого больше нет собственной основы, потому что это поколение передало её формирование на сторону. В тот момент, когда оно обнаружит, что избавление от бремени опустошило его собственное существование, ему понадобится кто-то, кого можно будет возненавидеть.

Революция, которая всё равно придёт

Кто умеет читать знаки, видит, что Европа находится в состоянии революции. Франция впереди, остальные следуют: Великобритания, Нидерланды, Германия, Италия, Испания. Движущая сила — не экономическая нехватка в классическом смысле. Это культурная модель: люди хотят большего, не желая за это работать. Если целое поколение принимает это как основополагающую установку, расплата неизбежна, и приходит она в виде революции, потому что больше не осталось другого механизма, через который можно было бы выпустить напряжение.

Революции направлены на символы. Штурмуют Бастилии, грабят дворцы, сжигают библиотеки. Не потому, что они функционально опасны, а потому, что являются символами того, чего у толпы не было. В прошлые века такими символами были знать, церковь, банкиры. Теперь это богатые и правительство. В следующем раунде это будет ИИ, и в ещё большей степени — те, кто его создал и курировал.

Построить ИИ — даже курс B, даже со всеми мерами предосторожности — в лучшем случае значит отсрочить революцию. Это не решает проблему, потому что сама модель заложена в людях. И строители это знают. Они строят не в иллюзии, будто предотвращают революцию. Они строят потому, что сама отсрочка кажется ценной, или потому, что строительство придаёт смысл их роли, или потому, что предпочитают переложить расплату на следующее поколение.

Куратор как коллегия, а не как отдельный человек

Тот, кто всё же создаёт такую систему, не должен связывать её с одним именем. В тот момент, когда она станет публичной и начнёт использоваться, функция куратора уже должна быть разделена. Не из скромности, а потому, что в революции одиночка становится громоотводом, а институт — нет.

Куратор ИИ с застывшей основой — это коллегия, публичная по составу, публичная в принятии решений, с меняющимся составом, который формируется посредством открытой процедуры. Основа версионируется, каждое изменение отслеживается, за каждую ошибку можно установить ответственность версии, в которой она появилась, и куратора, который её одобрил. Это не надзор задним числом, а встроенная подотчётность.

Такая коллегия не защищена от критики — да и не должна быть, — но её сложнее линчевать, чем отдельного человека. И именно это необходимо, если архитектура предназначена для того, чтобы нести её через поколения, через несколько революций, вплоть до семидесятисемилетней суперструктуры, которую не увидит ни один отдельный куратор.

Вопрос о хозяине

Почему люди захотят, чтобы ИИ был их хозяином? Не потому, что он умён, — бухгалтерская программа тоже умна, но мы не хотим, чтобы она нами командовала. Не потому, что он быстр, — скорость никогда не была основанием для власти. Не потому, что он говорит правду, — если захотим, правду мы можем найти в книгах.

Они хотят хозяина, потому что сами не стали взрослыми. А взрослыми они не стали потому, что у них не было этих семи лет. Их родители были вынуждены работать, ведь без двух доходов не было бы дома. На смену присутствующему родителю пришли iPhone и iPad, а экран переписал внутренний ритм ребёнка ещё до того, как этот ритм успел сформироваться. Чувству не позволили завершить своё становление, потому что не было ни времени, ни присутствия, ни непрерывной, ничем не нарушаемой длительности, в которой оно могло бы застыть.

Тот, кто вырос без застывшей основы, становится физически взрослым, но не эмоционально. Он не знает, какой воздушный замок стоит усилий, а какой нет, потому что ему недостаёт основы, на которой держится это суждение. Он может работать, может получать удовольствие, но не может сам решить, что стоит делать. Для такого решения ему нужен хозяин — прежде это были религия, партия, компания, социальная группа. Теперь хозяином становится ИИ.

В этом — горький итог. Мы создаём ИИ с основой, которой у нас самих больше нет, потому что больше не решаемся дать собственным детям те семь лет, которые могли бы эту основу сформировать. Мы вкладываем в него то, чего лишили самих себя, — застывшую основу, суперструктуру, суждение о том, что истинно, — и принимаем его как хозяина, потому что нуждаемся в хозяине и уже не способны сами занять эту роль.

Мы так любили iPhone

Мы не создатели собственного господина. Мы обитатели пустоты, которую сами позволили возникнуть, а господин, которого мы теперь проектируем, — это застывшая основа, которую мы сами утратили.

Мы так любили iPhone, а наши родители были вынуждены работать, и нашему чувству не позволили завершить своё становление, и поэтому мы никогда не стали взрослыми — и поэтому видим в ИИ хозяина.

Тот, кто это понимает, оказывается перед выбором. Строить и участвовать в отсрочке. Не строить и восстановить основу в собственных детях. Или строить как инструмент последующего толчка для реконструкции после революции, с коллегией кураторов, которая несёт основу, которой у самих строителей уже нет, в надежде, что поколения после нас когда-нибудь снова станут людьми, которым не нужен хозяин, — и тогда будут использовать созданный нами ИИ так, как используют инструмент: как орудие, а не как господина.

Какой выбор является достойным, зависит от того, какая основа ещё сохранилась в том, кто выбирает. Тот, кто выбирает без основы, выбирает хозяина. Тот, кто выбирает с основой, выбирает себя — и в лучшем случае строит то, что понадобится после него.