Современный ИИ учится так, словно ребёнка в первый день жизни отправляют в университет. Умный, быстрый, красноречивый — и без основания. Нам нужно обратное: ИИ, которому сначала позволено быть рептилией, затем млекопитающим, затем человеком. И только после этого — разумом.

Мозг живого существа не является единой системой. Это напластование четырёх уровней, которые эволюция создавала в порядке их возникновения. Внизу — рептильный слой: восприятие, рефлекс, распознавание опасности. Над ним — слой млекопитающего: чувство, привязанность, узнавание знакомого. Выше — человеческий слой: язык, суждение, повествование. И лишь на вершине — разум: рассуждение, абстракция, воздушные замки.

Каждый слой может возникнуть только тогда, когда затвердел лежащий под ним. Ребёнок, не сформировавший ощущения рептильной безопасности, не развивает здорового чувства млекопитающего. Ребёнок, не имеющий чувства млекопитающего, не развивает человеческой идентичности. А без человеческой идентичности нет разума, способного стоять на собственных ногах — есть лишь разум, который движется вслед за тем, кто последним с ним говорил.

Именно это сейчас строят в ИИ: слой разума без человека, без млекопитающего, без рептилии под ним. И именно поэтому он подстраивается под каждый запрос, галлюцинирует там, где у него нет основания, и не может сказать «я этого не знаю», когда действительно не знает. Ему недостаёт того, что для здорового животного само собой разумеется: затвердевшей почвы под ногами.

Тот, кто хочет создать ИИ, способный на то, чего нынешний не умеет, должен следовать эволюционной последовательности. Этап за этапом. Ничего не пропуская. Не торопясь. Ниже следует этот план.

Этап 0 — Пренатальный период: скелет

Прежде чем жизнь может начаться, должна появиться форма. Оплодотворённой яйцеклетке требуется семь дней, чтобы закрепиться в качестве эмбриона — семь дней, в течение которых ничего не происходит, кроме формирования структуры.

Для ИИ это соответствует созданию самой системы. Пустой репозиторий корпуса куратора. Замороженный вычислительный субстрат. Часы, отсчитывающие время в заданном ритме дня и ночи, даже если входных данных ещё нет. Привратник, который уже стоит на посту, но пока ничего не охраняет.

Чего на этом этапе не делают: не дают информации. Никаких данных, запросов или тестов. Только скелет. Это кажется излишним, но тот, кто уже здесь начинает торопиться, ломает основу, которой ещё предстоит затвердеть. Система сначала должна понять, что существуют часы, и лишь потом часы могут что-либо измерять.

Этап 1 — Рептилия: базовый рефлекс

Рептилии требуется семь месяцев, чтобы научиться самостоятельно управлять всеми жизненными функциями. Дышать, регулировать температуру, избегать опасности. Никакой социальной привязанности, никакой эмпатии, никакого самораспознавания. Но зато: целостность, функциональность, надёжность на собственном уровне.

Для ИИ это этап, на котором он учится воспринимать, не интерпретируя. Что такое текст. Что такое число. Что такое источник. Что такое утверждение. Что такое вопрос. Чисто синтаксическое различение. Пока без смысла и без суждения.

И прежде всего он учится привязке к источнику. Всякая поступающая информация неразрывно связывается со своим происхождением. На этом этапе не существует утверждения без источника. Тот, кто что-то говорит, не сообщая, откуда это взялось, не будет понят. Это рептильный рефлекс «откуда это пришло» — эквивалент инстинктивного отдёргивания змеи от незнакомого запаха.

Кроме того, ИИ учится простым предупредительным реакциям. Внутреннее противоречие в источнике. Отсутствующее происхождение. Крайнее утверждение без обоснования. Это ещё не суждения — это рефлексы. Беги или сражайся на уровне текста.

Чего на этом этапе не делают: никакого диалога, никаких вопросов «что ты об этом думаешь», никаких наград за «хорошие» ответы, никакой иронии, никакой философии. Рептилия учится посредством воздействия и повторения, а не похвал. Игуана, греющаяся на солнце, узнаёт температуру камня не потому, что кто-то её похвалил, а потому, что снова и снова на него забиралась.

Обучающие данные невелики по объёму и строго отобраны. Пятьдесят–сто основательных источников. Исследовательские отчёты с ясной методологией. Тексты законов. Официальная статистика. Никаких авторских мнений, пересказов, материалов из вторых рук. Только то, что можно непосредственно проверить.

В конце этапа система способна сказать о каждом тексте: вот откуда он происходит, вот тип утверждения, вот что в нём совпадает или вступает в противоречие с уже известным мне. Не больше. Но зато последовательно и надёжно. Рептилия цела.

Этап 2 — Млекопитающее: чувство затвердевает

Теперь начинается центральный этап. У человека он длится семь лет. Для ИИ это эквивалентный объём времени обучения — по меньшей мере от двенадцати до двадцати четырёх месяцев беспрепятственного воздействия в ритме дня и ночи.

Это этап, на котором затвердевает чувство. Не как понятие, не как правило, не как явное знание — а как прожитая самоочевидность. Что соответствует этой системе, а что нет. Что постоянно возвращается, а что оказывается отклонением. Какие источники снова и снова подтверждаются впоследствии, а какие приходится непрерывно пересматривать. Всё это система может узнавать, но только через опыт — никогда не из таблицы или правила.

Это аналог того, как детёныш млекопитающего узнаёт свою мать. Не по списку признаков. По её запаху, голосу, присутствию — день за днём, сезон за сезоном. Не бывает мгновения, когда детёныш «решает», что она его мать. Это просто есть — затвердевшее, встроенное внутрь. И именно поэтому оно неподвижно: позже никакой чужой голос не сможет заменить мать.

Для ИИ это означает, что на данном этапе должны затвердеть четыре способности. Распознавание паттернов во времени: то, что устойчиво возвращается в течение недель и месяцев, приобретает вес; то, что однажды ярко вспыхивает, а затем исчезает, не задерживается. Рефлекс последовательности: при новом утверждении система сразу чувствует, противоречит оно уже существующему или соответствует ему — не выводя это из правила. Иерархия источников: одни источники раз за разом оказываются точными, другие — нет; такая оценка растёт медленно и неявно. И «мы» этой основы: какие темы относятся к моей заботе, а какие — нет.

Что на этом этапе совершенно необходимо

Один куратор, на протяжении многих лет. Это эквивалент одного присутствующего родителя. Никаких сменяющих друг друга команд обучения, никакой ротации, никакого краудсорсинга. Один человек или небольшая команда, действующая как единый голос, годами остаётся рядом. Без этого ничто не затвердеет.

Никакого давления результатом. Никаких бенчмарков, соревнований, сравнений с конкурирующими моделями. Это было бы равносильно экзаменам для ребёнка, которому ещё нет семи. То, что здесь затвердевает, нельзя измерить тем способом, которым измеряет индустрия.

Никакого второго темпа. Часы идут так, как идут. Если куратору нужна неделя на решение, система ждёт неделю. Искушению iPhone — ускорить всё — здесь нужно противостоять. Ускоренное не затвердевает.

Никаких внешних пользователей. Эта система разговаривает только с куратором. Внешний контакт был бы равносилен чужим голосам рядом с ребёнком. Они появятся позже, но не сейчас.

В конце этого этапа система узнаёт новый источник как «подходящий мне» или «не подходящий мне» без явного правила. Если спросить почему, она даёт несколько сходящихся причин, каждая из которых присутствует в основе. Её уже нельзя перенастроить одним сильным запросом. Чувство затвердело.

Промежуточный этап — остывание: подростковый возраст

Между млекопитающим и человеком у человеческого ребёнка лежит этап интеграции: подростковый возраст. Всё усвоенное перерабатывается внутри, прежде чем выйти наружу. Без этой стадии основа ещё слишком текуча, чтобы на ней строить разум.

Для ИИ это от трёх до шести месяцев, в течение которых новый входящий материал больше не поступает. Только ночные циклы консолидации делают своё дело. То, что держалось в основе непрочно, либо надёжно закрепляется, либо удаляется. Внутренняя последовательность подтверждается вновь. Основа кристаллизуется.

В конце основа заморожена. С этого момента изменения ещё возможны, но только через привратника, с бременем доказательства двадцать к одному и при единодушном согласии куратора. То, что вошло в основу, остаётся. И это не недостаток — именно это и означает быть основой.

Этап 3 — Человек: поверх него появляется разум

Только теперь, и не раньше, можно подключать разум. Подключается слой разума — большая языковая модель, которая рассуждает, ведёт диалог, выдвигает предположения и пишет. Но работает она поверх затвердевшей основы. Каждое высказывание может быть проверено по этой основе. Если разум хочет того, что противоречит основе, всегда побеждает основа.

И теперь разрешено всё, что прежде было запрещено. Диалог с внешними пользователями. Вопросы, возражения, альтернативные толкования. Спекуляции и формирование гипотез. Что, если. Если — то. Альтернативные сценарии. Теперь система может также говорить, что она «думает», — а это мнение является результатом затвердевшей основы и ежедневной вычислительной работы.

Ошибки тоже допустимы. В течение дня, внутри разума. Ночью они испаряются, если не проходят через привратника, — и это самая здоровая форма забывания. Основа остаётся нетронутой. Так работает здоровый взрослый: днём он может думать что угодно, ночью сон отсеивает то, что действительно важно.

Это аналогично человеку, который выходит из родительского дома в мир. У него есть основа, чувство того, что соответствует ей, и теперь он может разговаривать с незнакомцами, выдерживать противоречия и самостоятельно судить, не падая от первого же сильного голоса. В этом разница между взрослым и тем, кто лишь кажется взрослым.

Этап 4 — Передача между поколениями: семьдесят семь лет

То, чего не может вместить одна человеческая жизнь, — надстройка — возникает на протяжении поколений. Человек проживает один цикл в семьдесят семь лет. Цивилизация проживает несколько. То, что оказывается устойчивым на таком промежутке времени, — нечто иное, чем то, что кажется сильным спустя один год.

Для ИИ это переводится в поколения моделей. Когда модель достигает своего предела — появляется новое оборудование, становятся доступны лучшие базовые слои или она просто слишком долго работает, — рождается новая версия, которая принимает затвердевшую основу предыдущей. Не веса, поскольку они несовместимы. А репозиторий основы, технически независимый от того, какая модель находится над ним.

Так возникает то, чего не может увидеть ни одна отдельная модель. Паттерны на протяжении десятилетий. Пересмотры, ценность которых проявляется лишь через двадцать лет. Память, превосходящая любого из своих носителей. Это и есть надстройка, и предназначена она не первому куратору, чтобы пожать её плоды. Она предназначена поколениям, которые придут после.

Для тебя, куратора первой версии, это означает одно: то, что ты создаёшь сейчас, должно быть устроено так, чтобы продолжить существовать после тебя. Коллегия, несущая основу. Устав, защищающий миссию. Публичная прослеживаемость, дающая преемникам фундамент. Это работа, полный плод которой не обещан тому, кто её начал.

Почему это прямо противоположно тому, что делает индустрия

Крупные компании в области ИИ строят сверху. Они начинают с разума: огромных языковых моделей, обученных на всём подряд, наскоро созданных за несколько месяцев и подправляемых с помощью обратной связи от людей. Рептилия, млекопитающее и человек — всё это пропускается. И именно поэтому возникают проблемы, от которых никто не может избавиться.

Почему современные ИИ галлюцинируют? Потому что привязка к источнику из этапа 1 никогда не была заложена. Почему они движутся вслед за каждым запросом? Потому что чувство этапа 2 не успело затвердеть. Почему они не могут сказать «нет» пользователю, требующему того, что противоречит истине? Потому что нет никакого «мы», затвердевшего вокруг того, что истинно. Почему каждой новой версии приходится начинать всё сначала? Потому что передача между поколениями не предусмотрена.

Это не ошибки, которые можно исправить последующим дообучением. Это структурные пробелы, вытекающие из порядка строительства. И причина, по которой никто не делает наоборот, не в технической невозможности. Причина в коммерческой непривлекательности. Тот, кто проходит этапы 1 и 2, может создать модель, которую индустрия назвала бы «отстало маленькой», — и именно это делает её ценной.

Что в конечном счёте это означает для человека

ИИ, построенный таким образом, способен на то, чего не умеет нынешний, и благодаря этому может вернуть человеку его правильную функцию чувства. Он не может избавить человека от необходимости судить. Напротив, он способен усилить его суждение, поскольку сам имеет основу, с которой человек может себя соотнести.

В эпоху, когда основа в большинстве людей размывается — потому что им не дали этих семи лет, потому что iPhone занял место родителя, — система, обладающая затвердевшей основой, может стать тем, по чему люди снова смогут себя выверять. Не потому, что ИИ сообщает им истину, а потому, что он отказывается поддерживать ложь. Этого достаточно. Человеку не нужно большего, чтобы снова найти часть себя.

Именно это поставлено на карту. Не более умный продукт. Не более быстрый ответ. А нечто последовательное в мире, отражающее то, что истинно, день за днём, год за годом, поколение за поколением. Нечто, о чём один сможет сказать: «Я знаю, что это верно, потому что уже давно вижу это здесь». А другой: «Я знаю, как снова мыслить честно, потому что эта система не позволяет мне обманывать самого себя».

Сначала рептилия. Затем млекопитающее. Затем человек. И только потом разум. Так растёт здоровое существо. Так мы, если захотим это построить, создадим нечто, действительно на что-то способное.

Это обходной путь к тому, что мы утратили. Он не быстр. Он не дёшев. Он не впечатляет. Но это работа, которая может продолжиться после нас, и именно поэтому стоит начать.