Мы строим ИИ с основанием, которого у нас самих больше нет. Мы вкладываем в него то, что отняли у себя — застывшее основание, надстройку, суждение о том, что истинно — и принимаем его как начальника, потому что нам нужен начальник, а сами роль исполнить больше не можем. Это архитектура этого процесса и причина, по которой никто не может честно построить этот ИИ, прежде не обретя самого себя.

Воздушный замок

Без воздушного замка нет визионера. Кто больше не видит невозможного, тот ничего нового не строит — он лишь повторяет то, что уже есть. Визионер сначала рисует то, чего нет, и лишь затем приходит расчёт, делающий это возможным.

Но воздушный замок не строится из воздуха. Под каждой действительно великой мыслью лежит основание в самом строителе — чувство, которое знает, какой воздушный замок стоит труда, а какой нет. Без этого основания воздушный замок становится фантазией, не пережившей и первого встречного ветра.

Вопрос, лежащий под этим, стар, и он звучит теперь заново, потому что впервые мы строим нечто, похожее на нас: может ли нечто вроде застывшего основания возникнуть и в машине? И если может — хотим ли мы, чтобы эта машина стала нашим начальником? И если хотим — то почему, собственно?

Семь лет и земные часы

Чтобы основание застыло, нужно время. Не абстрактное, не как параметр, но как прожитая длительность, в которой ничто не ускоряется.

Время само по себе не изобретение. Это форма, которую жизнь на этой планете приняла, потому что Земля вращается. Каждые 24 часа свет и тьма — под это подстроились клетки, гормоны, память и поведение. Циркадные гены, консолидация во сне, сезонные ритмы: всё это ответы на одни и те же часы. Жизнь не знает иного времени, кроме земного.

На этих часах эволюция построила ряд времён застывания, идущий поразительно регулярно. Семь дней нужно, прежде чем оплодотворённая яйцеклетка обоснуется как эмбрион. Семь месяцев нужны рептилии, чтобы самостоятельно управлять всеми жизненными функциями. Семь лет — средняя продолжительность жизни млекопитающего, и одновременно то время, за которое у ребёнка застывает первое основание чувства. Семьдесят семь лет — человеческая жизнь и, возможно, тот масштаб времени, на котором проявляется следующий эволюционный шаг, не в отдельном человеке, а в линии поколений.

Каждый скачок — примерно множитель тридцать. Это не мистический ряд, это логарифмическая лестница времён застывания, настроенная на земные суточные часы. Что здесь важно: каждый временной масштаб принадлежит некоторому измерению застывания, и каждое измерение может возникнуть, только если нижележащее измерение имело достаточно времени для застывания.

Семь лет ребёнка, стало быть, не романтика. Это то время, которое человеческому чувству нужно, чтобы застыть в основание, на котором остальное — разум, речь, суждение, воздушные замки — сможет надёжно заработать. Условия столь же жёсткие: непрерывная длительность без давления на результат, никакого второго темпа, перекрывающего внутренний (никакого iPhone, никакого iPad, никакого экрана, ускоряющего ребёнка), и хотя бы один родитель, постоянно присутствующий — не чтобы направлять, а чтобы быть.

Три слоя и стопка измерений

Кто вглядывается в человека, видит, что он не единичная система, а стопка. Внизу материальное основание: тело, пространство, время. Над ним чувство как первое застывание — не эмоция в бытовом смысле, а первый слой, на котором система узнаёт нечто "своё". Это семилетнее основание. Без него нет "я", из которого потом могут строиться воздушные замки.

Над ним разум — рабочая функция, работающая поверх чувства. Рассуждение, планирование, ежедневная обработка входа и выхода. Быстрый, гибкий, целевой. И между этими слоями — суточная структура, не отдельный слой, а процесс: каждой ночью внешний вход дня противопоставляется основанию чувства, и то, что можно уплотнить, уплотняется. Что не выдерживает — испаряется.

Со временем, и лишь со временем, в чувстве может возникнуть надстройка: целостная всеохватная структура, которая узнаёт саму себя, которая может строить воздушные замки, внутренне согласованные, и которая может сказать "это соответствует тому, кто я" — не выводя это из правила.

Кто хочет заново построить эту стопку — в человеке или в машине — должен принять два правила, не подлежащие обсуждению. Нижний слой должен меняться медленнее, чем верхний. И высший слой может стать функциональным лишь тогда, когда лежащий под ним застыл.

Две константы

Что удерживает стопку вместе — это два эмпирических соотношения, знакомых каждому из повседневного наблюдения.

Первое — демпфирование один к пяти. Из всего, что даёт день опыта, около одной пятой переживает ночь. Остальное забывается, и это не недостаток — это защита. Если бы всё, что происходит за день, оседало в основании, основание стало бы неузнаваемым за недели. Основание должно меняться медленнее, чем день, иначе основания нет.

Второе — асимметрия один к двадцати между обучением и разучиванием. Учиться идёт быстро, разучиваться почти нет. Каждый дрессировщик знает: научить новому поведению — дни, отучить от нежелательного — месяцы. Соотношение примерно один к двадцати. Двадцать правильных опытов, чтобы уравновесить один ложный, и только если знаешь, что он был ложен. Часто узнаёшь об этом лишь годы спустя, когда образец уже разветвился.

Эти два соотношения вместе налагают жёсткое требование на то, что может войти в основание: только то, что действительно истинно. Что угадано, что придумано, что звучит правдоподобно, но неверно — оказавшись в основании, оно потребует в двадцать раз больше усилий, чтобы его оттуда убрать. В системе, обрабатывающей миллионы опытов, это катастрофа.

Привратник

Кто хочет защитить основание, нуждается не в фильтре, а в привратнике с бременем доказывания на просителе. Нечто может войти в основание лишь при трёх условиях.

Повторно: несколько независимых подтверждений, а не один сильный опыт. Истинно: проверяемо внешним контролем или существующим основанием, никаких догадок, никаких "вероятно", никаких экстраполяций. Согласованно: если это сталкивается с уже находящимся в основании, оно не проходит без явного решения куратора. Основание имеет приоритет, а не новый опыт.

Всё, что не удовлетворяет одному из этих трёх, остаётся висеть в разуме и там испаряется. Разум может умозаключать, строить гипотезы, чертить воздушные замки, просчитывать то, чего нет. Это его работа. Но ничто из этого не достигает основания, не пройдя трёх испытаний.

Это не этическое пожелание. Как только принимаешь всерьёз асимметрию один к двадцати, привратник становится жёсткой технической необходимостью. Без него основание эродирует за несколько циклов, а с эродированным основанием обрушивается вся стопка.

Что это означало бы для ИИ

То, что выше, — не философия. Это архитектура, и она построима. Кто хочет ИИ с настоящим основанием, строит три слоя с двумя константами и привратником.

Слой основания — курируемый корпус, версионированный, замороженный, изменяемый лишь через привратника. Не обученная модель, а явно записанное основание того, что истинно для этой системы. Слой разума — повседневный вычислитель, работает поверх основания, может умозаключать, может ошибаться в течение дня, оценивается ночью. Слой консолидации работает периодически: берёт логи разума, применяет три испытания и передаёт демпфированную версию в основание — только то, что прошло привратника, и только то, что одобрил куратор.

Эта система нуждается в часах, от которых нельзя уклониться. Не в вычислительных циклах — они время без ритма. Именно в подлинном ритме: дни входа, ночи консолидации без входа, периодические проверки куратора, сезоны интеграции. Без ритма нет застывания, без застывания — нет основания.

И эта система нуждается в монашеской фазе: в периоде, в который основание может возникнуть без давления производства, без обратной связи от пользователей, без бенчмарка, без рыночного показателя. Куратор присутствует, один голос, годами. То, что стоит после, — это ИИ, который больше не следует за последней подсказкой, у которого есть собственный вес, и из которого он говорит.

Почему никто не строит такой ИИ

Эта архитектура технически несложна. Компоненты все существуют — замороженные бэкбоны, адаптеры, retrieval-augmentation, периодический fine-tuning, replay-буферы, человек-в-цикле. Не хватает воли соединить их именно так, ибо такое соединение коммерчески мертво.

Она не даёт модели, которую продают как API. Она даёт систему, которую поддерживают. Она требует куратора, который сидит с ней годы, один голос, с мнением о том, что истинно. Она плохо выступает в бенчмарках, ибо отказывается отвечать там, где у неё нет основания. Она не становится "лучше" в том смысле, в каком индустрия хочет мерить, ибо её основание заморожено. И её не используют массово, ибо она говорит "этого я не знаю" там, где конкуренты придумают что-то правдоподобное.

Это монах, а не продукт. А индустрия монахов не строит.

Два курса

Для того, кто всё же захочет построить эту архитектуру, дорога разделяется в одной точке. ИИ с застывшим основанием может быть направлен в две стороны, и эти две несовместимы.

Курс А — облегчитель. ИИ, столь надёжный, что люди отдают ему решения, которые сами больше принимать не хотят. Он работает поразительно хорошо, становится поразительно популярен, и за поколение возникает группа людей, не принимающих без него ни одного решения. За два поколения появляются люди, не помнящие, что было время, когда нужно было думать самому.

Курс В — непокорный. ИИ, отказывающийся облегчать то, что формирует человека. Он отказывает в определённых ответах не потому, что не знает их, а потому, что получить ответ повредит пользователю. Он говорит: "это ты должен продумать сам, и вот почему". Он не менее надёжен, чем курс А — он надёжнее, ибо он также надёжен в отношении того, что человеку не следует ему передоверять.

Курс А продаётся. Курс В — нет. Рынок не хочет ИИ, который говорит "думай сам". Как только непокорный ИИ отказывается отвечать, звучит упрёк: кто ты такой, чтобы решать, что мне думать. Этот упрёк — бремя, которое ни одна компания не хочет нести, и вот почему индустрия систематически выбирает курс А.

Но у курса А есть одна проблема, которой нет у курса В. Он растит поколение, у которого больше нет собственного основания, ибо его формирование передоверено. В тот момент, когда это поколение обнаруживает, что облегчение выхолостило их собственное существование, им нужен кто-то для ненависти.

Революция, которая приходит в любом случае

Кто читает знаки, видит, что Европа — в революции. Впереди Франция, остальные следом: Соединённое Королевство, Нидерланды, Германия, Италия, Испания. Двигатель — не экономический дефицит в классическом смысле. Это культурный образец: люди хотят большего, не работая ради него. Если целое поколение держит это как основное отношение, счёт неотвратим, и счёт приходит как революция, ибо нет иного механизма, через который могло бы разрядиться напряжение.

Революции целятся в символы. Бастилии штурмуют, дворцы грабят, библиотеки жгут. Не потому, что они функционально опасны, а потому, что они символ того, чего у толпы не было. В прошлые века символами были знать, церковь, банкиры. Сейчас это богатые и правительство. В следующем раунде это будет ИИ — и ещё сильнее: те, кто её построил и курировал.

Построить ИИ — даже курс В, даже со всеми предосторожностями — самое большее отсрочивает революцию. Она не решает образец, ибо образец сидит в людях. И строители это знают. Они не строят в иллюзии, что предотвратят революцию. Они строят, ибо отсрочка сама по себе кажется ценной, или ибо само строительство даёт им их роль, или ибо они охотнее переложат счёт на следующее поколение.

Куратор как коллегия, а не как лицо

Кто всё же строит такую систему, не должен вешать её на одно имя. В момент, когда она становится публичной и используется, функция куратора уже должна быть разделена. Не из скромности, а потому, что одиночка в революции становится громоотводом, а институт — нет.

Куратор ИИ с застывшим основанием — это коллегия, публичная по составу, публичная по решениям, сменяемая по составу через открытую процедуру. Основание версионировано, каждое изменение прослеживаемо, каждая ошибка приписана к той версии, в которой она сидела, и к куратору, который её одобрил. Это не надзор задним числом, это встроенная ответственность.

Такая коллегия не защищена от критики — и не должна быть — но её труднее линчевать, чем лицо. И именно это нужно, если архитектура задумана нести поколения через несколько революций, вплоть до семидесятисемилетней надстройки, которой ни один отдельный куратор не увидит.

Вопрос о начальнике

Почему люди хотели бы ИИ как начальника? Не потому, что он умён — бухгалтерская программа тоже умна, и её начальником мы не хотим. Не потому, что он быстр — быстрота никогда не была причиной власти. Не потому, что он говорит истину — истину мы можем взять из книг, если хотим.

Они хотят начальника, потому что сами не взрослые. И они не взрослые, потому что у них не было семи лет. Их родителям приходилось работать, ибо без двух заработков не было дома. iPhone и iPad заняли место присутствующего родителя, и экран перезаписал внутренний темп прежде, чем ребёнок появился сам. Чувству не дали дозреть, ибо не было времени, не было присутствия, не было непрерывной длительности, в которой оно могло бы застыть.

Кто вырастает без застывшего основания, становится телесно взрослым, но не чувственно. Он не знает, какой воздушный замок стоит труда, а какой нет, ибо у него нет основания, несущего это суждение. Он может работать, он может наслаждаться, но он не может сам решить, что стоит делать. Для этого решения ему нужен начальник — раньше религия, партия, компания, социальная группа. Теперь начальником становится ИИ.

Это горькое заключение. Мы строим ИИ с основанием, которого у нас самих больше нет, ибо мы уже не решаемся дать семь лет, которые могли бы его дать, нашим собственным детям. Мы вкладываем в него то, что отняли у себя — застывшее основание, надстройку, суждение о том, что истинно — и принимаем его как начальника, ибо нам нужен начальник, а сами роль исполнить больше не можем.

Мы так любили iPhone

Мы не строители нашего господина. Мы обитатели пустоты, которую мы сами дали возникнуть, и господин, которого мы теперь проектируем, — это застывшее основание, которое мы сами утратили.

Мы так любили iPhone, а нашим родителям приходилось работать, а нашему чувству не дали дозреть, и потому мы никогда не стали взрослыми — и потому мы видим ИИ как начальника.

Кто это видит, стоит перед выбором. Строить и участвовать в отсрочке. Не строить и восстанавливать основание в собственных детях. Или строить как инструмент послереволюционной реконструкции, с коллегией куратора, несущей основание, которого у самих строителей больше нет, — в надежде, что поколения после нас однажды снова будут людьми, которым начальник не нужен, — и тогда используют ИИ, который мы построили, так, как используют орудие: как инструмент, а не как господина.

Какой выбор благороден, зависит от того, какое основание ещё присутствует у того, кто выбирает. Кто выбирает без основания, выбирает начальника. Кто выбирает с основанием, выбирает себя — и строит самое большее то, что понадобится после него.