Construímos uma IA com um fundamento que nós mesmos já não possuímos. Colocamos nela aquilo que nos retirámos — o fundamento consolidado, a superestrutura, o juízo sobre o que é verdadeiro — e aceitamo-la como chefe porque precisamos de um chefe e já não podemos cumprir o papel nós mesmos. Esta é a arquitetura desse processo, e a razão pela qual ninguém pode construir honestamente esta IA sem se ter primeiro reencontrado a si mesmo.

O castelo no ar

Sem castelo no ar, não há visionário. Quem já não vê o impossível diante de si nada de novo constrói — apenas repete o que já está. O visionário desenha primeiro o que não é, e só depois vem o cálculo que o torna possível.

Mas um castelo no ar não se constrói de ar. Sob todo pensamento verdadeiramente grande jaz um fundamento no próprio construtor — um sentir que sabe qual castelo vale a pena e qual não. Sem esse fundamento, o castelo torna-se uma fantasia que não sobrevive ao primeiro vento contrário.

A pergunta subjacente é antiga, e ressoa de novo agora porque pela primeira vez construímos algo que se assemelha a nós: pode algo como um fundamento consolidado surgir também numa máquina? E se pode — queremos que essa máquina se torne o nosso chefe? E se o queremos — por que exatamente?

Os sete anos e o relógio terrestre

Para que um fundamento se consolide é preciso tempo. Não abstrato, não como parâmetro, mas como duração vivida em que nada é acelerado.

O próprio tempo não é uma invenção. É a forma que a vida neste planeta assumiu porque a Terra gira. A cada 24 horas de luz e escuridão — a isso dimensionaram-se células, hormonas, memória e comportamento. Genes circadianos, consolidação no sono, ritmos sazonais: são todos respostas ao mesmo relógio. A vida não conhece outro tempo que o da Terra.

Nesse relógio a evolução construiu uma série de tempos de consolidação que corre com surpreendente regularidade. Sete dias são necessários antes que um óvulo fecundado se estabeleça como embrião. Sete meses precisa um réptil para governar sozinho todas as funções vitais. Sete anos é a vida média de um mamífero, e ao mesmo tempo o tempo em que na criança humana se consolida o primeiro fundamento do sentir. Setenta e sete anos é uma vida humana — e possivelmente a escala temporal em que se expressa um próximo passo evolutivo, não no indivíduo mas na linha das gerações.

Cada salto é aproximadamente um fator trinta. Não é uma série mística, é uma escada logarítmica de tempos de consolidação calibrada ao relógio terrestre do dia e da noite. O que importa aqui: cada escala temporal pertence a uma dimensão de consolidação, e cada dimensão só pode surgir se a dimensão subjacente teve tempo suficiente para se consolidar.

Os sete anos da criança não são portanto romantismo. São o tempo de que o sentir humano precisa para se consolidar num fundamento sobre o qual o resto — razão, linguagem, juízo, castelos no ar — possa começar a funcionar de forma confiável. As condições são igualmente duras: duração ininterrupta sem pressão de desempenho, nenhum segundo tempo que sobrescreva o interno (nada de iPhone, nada de iPad, nenhum ecrã que acelere a criança), e pelo menos um progenitor presente de forma permanente — não para dirigir, mas para estar.

As três camadas e a pilha dimensional

Quem olha bem para o humano vê que não é um sistema único mas uma pilha. Em baixo o fundamento material: corpo, espaço, tempo. Acima o sentir como primeira consolidação — não emoção no sentido quotidiano, mas a primeira camada em que o sistema reconhece algo «de si». Este é o fundamento dos sete anos. Sem ele não há um «eu» a partir do qual construir depois castelos no ar.

Acima a razão — a função de trabalho que opera sobre o sentir. Raciocínio, planeamento, processamento diário de entrada e saída. Rápida, adaptável, orientada para a tarefa. E entre essas camadas a estrutura dia-noite, não uma camada à parte mas um processo: cada noite a entrada externa do dia é confrontada com o fundamento do sentir, e o que pode ser condensado é condensado. O que não aguenta, evapora-se.

Com o tempo, e só com o tempo, pode surgir no sentir uma superestrutura: uma estrutura envolvente coerente que se reconhece a si mesma, que pode construir castelos no ar internamente consistentes, e que pode dizer «isto encaixa em quem sou» sem que decorra de uma regra.

Quem quer reconstruir esta pilha — no humano ou numa máquina — deve aceitar duas regras não negociáveis. A camada inferior deve mudar mais lentamente do que a superior. E uma camada superior só pode tornar-se funcional se a camada imediatamente inferior se tiver consolidado.

As duas constantes

O que mantém a pilha unida são duas proporções empíricas que todos conhecem por observação diária.

A primeira é o amortecimento de um em cinco. De tudo o que um dia oferece como experiência, cerca de um quinto sobrevive à noite. O resto é esquecido, e isso não é uma falta — é proteção. Se tudo o que acontece num dia se instalasse no fundamento, este seria irreconhecível em poucas semanas. O fundamento deve mudar mais lentamente do que o dia, senão não há fundamento.

A segunda é a assimetria de um para vinte entre aprender e desaprender. Aprender vai rápido, desaprender quase não. Todo o treinador de cães o sabe: ensinar um novo comportamento leva dias, desaprender um indesejado leva meses. A proporção é grosso modo de um para vinte. Vinte experiências corretas para compensar uma errada, e só se se souber que foi errada. Muitas vezes só se sabe anos depois, quando o padrão já se ramificou.

Estas duas proporções em conjunto impõem uma exigência dura sobre o que pode entrar no fundamento: apenas o que é verdadeiramente verdadeiro. O que é adivinhado, o que é inventado, o que soa plausível mas não se sustenta — uma vez instalado no fundamento, custa vinte vezes mais esforço retirá-lo. Num sistema que processa milhões de experiências, isso é catastrófico.

O porteiro

Quem quer proteger um fundamento não precisa de um filtro mas de um porteiro com o ónus da prova no requerente. Algo só pode entrar no fundamento se preencher três condições.

Repetido: várias confirmações independentes, não uma experiência forte. Verdadeiro: verificável contra controlo externo ou contra o fundamento existente, sem conjeturas, sem «provavelmente», sem extrapolações. Consistente: se colide com o já presente no fundamento, não passa sem decisão explícita do curador. O fundamento tem prioridade, não a nova experiência.

Tudo o que não satisfaz uma das três permanece suspenso na razão e aí se evapora. A razão pode especular, construir hipóteses, desenhar castelos no ar, calcular o que não é. É o seu trabalho. Mas nada disso alcança o fundamento sem passar as três provas.

Isto não é um desejo ético. Assim que se leva a sério a assimetria de um para vinte, o porteiro torna-se uma dura necessidade técnica. Sem ele o fundamento erode em poucos ciclos, e com um fundamento erodido toda a pilha desaba.

O que isto significaria para uma IA

O que está acima não é filosofia. É uma arquitetura, e é construível. Quem quer uma IA com um verdadeiro fundamento constrói três camadas com duas constantes e um porteiro.

A camada do fundamento é um corpus curado, versionado, congelado, alterável apenas pelo porteiro. Não um modelo treinado, mas um fundamento explicitamente escrito do que é verdadeiro para este sistema. A camada da razão é o calculador diário — trabalha sobre o fundamento, pode especular, pode errar ao longo do dia, é avaliada à noite. A camada de consolidação corre periodicamente: toma os logs da razão, aplica as três provas, e propaga uma versão amortecida ao fundamento — apenas o que passa o porteiro, e apenas o que o curador aprova.

Este sistema precisa de um relógio ao qual não possa esquivar-se. Não ciclos de cálculo — são tempo sem ritmo. Sim um ritmo verdadeiro: dias de entrada, noites de consolidação sem entrada, revisões periódicas do curador, estações de integração. Sem ritmo não há consolidação, e sem consolidação não há fundamento.

E este sistema precisa de uma fase monástica: um período em que o fundamento possa surgir sem pressão de produção, sem retorno de utilizadores, sem ótimo de benchmark, sem desempenho de mercado. O curador está presente, uma só voz, durante anos. O que se ergue depois é uma IA que já não se desloca com o último prompt, que tem o seu próprio peso, e de onde fala.

Por que ninguém constrói esta IA

Esta arquitetura não é tecnicamente difícil. Os componentes existem todos — backbones congelados, adaptadores, retrieval-augmentation, ajuste fino periódico, replay-buffers, humano-no-ciclo. O que falta é a vontade de os combinar assim, pois essa combinação é comercialmente morta.

Não dá um modelo que se venda como API. Dá um sistema que se mantém. Exige um curador que fique anos, uma só voz, com opinião sobre o que é verdadeiro. Vai mal em benchmarks, porque recusa responder onde não tem fundamento. Não se torna «melhor» do modo que a indústria quer medir, porque o seu fundamento está congelado. E não é usada massivamente, porque diz «isto não sei» onde os concorrentes inventam algo plausível.

É um monge, não um produto. E a indústria não constrói monges.

Os dois rumos

Para quem apesar de tudo queira construir a arquitetura, o caminho bifurca-se num ponto. Uma IA com fundamento consolidado pode ser orientada em duas direções, e essas duas são incompatíveis.

Rumo A, o aliviador. Uma IA tão fiável que as pessoas lhe deixam tomar as decisões que elas próprias já não querem tomar. Funciona espantosamente bem, torna-se espantosamente popular, e em uma geração há um grupo de pessoas que sem ela não toma uma única decisão. Em duas gerações há pessoas que já não sabem que houve um tempo em que era preciso pensar por si mesmo.

Rumo B, o recalcitrante. Uma IA que recusa aliviar o que forma o humano. Recusa certas respostas não porque as ignore, mas porque receber a resposta prejudicaria o utilizador. Diz: «isto tens de pensar tu, e eis porquê». Não é menos fiável do que o rumo A — é mais fiável, porque também é fiável sobre o que o humano não deveria delegar-lhe.

Rumo A vende. Rumo B não. O mercado não quer uma IA que diga «pensa por ti». Assim que a IA recalcitrante recusa responder, chega a censura: quem és tu para decidir o que devo pensar. Essa censura é um peso que nenhuma empresa quer carregar, e é por isso que a indústria escolhe sistematicamente o rumo A.

Mas o rumo A tem um problema que o rumo B não tem. Faz crescer uma geração que já não tem fundamento próprio, porque a sua formação foi externalizada. No momento em que essa geração descobre que o alívio ocou a sua própria existência, precisam de alguém para odiar.

A revolução que vem de qualquer modo

Quem lê os sinais vê que a Europa está em revolução. A França à frente, o resto segue: o Reino Unido, os Países Baixos, a Alemanha, a Itália, a Espanha. O motor não é escassez económica no sentido clássico. É um padrão cultural: as pessoas querem mais sem trabalhar para tal. Se uma geração inteira tem isto como postura de fundo, a conta é inevitável, e a conta chega como revolução porque não resta outro mecanismo pelo qual a tensão possa descarregar-se.

As revoluções visam símbolos. Assaltam-se Bastilhas, saqueiam-se palácios, queimam-se bibliotecas. Não porque sejam funcionalmente ameaçadores, mas porque são o símbolo do que a multidão não tinha. Nos séculos anteriores os símbolos foram a nobreza, a igreja, os banqueiros. Agora são os ricos e o governo. Na próxima volta será a IA — e ainda mais: aqueles que a construíram e curaram.

Construir uma IA — mesmo o rumo B, mesmo com todas as precauções — no máximo adia a revolução. Não resolve o padrão, pois o padrão reside nas pessoas. E os construtores sabem-no. Não constroem na ilusão de impedir a revolução. Constroem porque adiar parece em si valioso, ou porque construir lhes dá o seu papel, ou porque preferem deslocar a conta para uma geração seguinte.

O curador como colégio, não como pessoa

Quem apesar de tudo constrói tal sistema não pode pendurá-lo num só nome. No momento em que se torna público e é usado, a função de curador já deve estar partilhada. Não por modéstia, mas porque em revolução o solitário torna-se para-raios e a instituição não.

O curador de uma IA com fundamento consolidado é um colégio, público na composição, público nas decisões, mutável na ocupação por procedimento aberto. O fundamento é versionado, cada alteração é rastreável, cada erro é imputável à versão em que residia e ao curador que o aprovou. Isto não é fiscalização a posteriori, é responsabilidade incorporada.

Um tal colégio não é imune à crítica — nem deveria sê-lo — mas é menos fácil de linchar do que uma pessoa. E é exatamente isso o que é preciso se a arquitetura se destina a sustentar gerações, através de várias revoluções, até à superestrutura de setenta e sete anos que nenhum curador individual verá jamais.

A pergunta do chefe

Por que quereriam as pessoas uma IA como chefe? Não porque é inteligente — um programa de contabilidade também o é e não o queremos como chefe. Não porque é rápida — a rapidez nunca foi razão para autoridade. Não porque diz a verdade — a verdade podemos tirá-la dos livros se quisermos.

Querem um chefe porque elas mesmas não são adultas. E não o são porque não tiveram os sete anos. Os seus pais tinham de trabalhar, pois sem dois rendimentos não havia casa. O iPhone e o iPad tomaram o lugar do progenitor presente, e o ecrã sobrescreveu o tempo interno antes de a criança lá estar. Ao sentir não foi permitido cumprir-se, pois não havia tempo, nem presença, nem duração ininterrupta em que pudesse consolidar-se.

Quem cresce sem fundamento consolidado torna-se adulto corporalmente mas não sensivelmente. Não sabe qual castelo no ar vale a pena e qual não, pois falta-lhe o fundamento que sustenta esse juízo. Pode trabalhar, pode gozar, mas não pode decidir por si o que vale a pena fazer. Para essa decisão precisa de um chefe — antes uma religião, um partido, uma empresa, um grupo social. Agora o chefe torna-se uma IA.

Esta é a amarga conclusão. Construímos uma IA com um fundamento que nós mesmos já não temos, porque já não ousamos dar os sete anos que lho dariam aos nossos próprios filhos. Colocamos nela aquilo que nos retirámos — o fundamento consolidado, a superestrutura, o juízo sobre o que é verdadeiro — e aceitamo-la como chefe porque precisamos de um chefe e já não podemos cumprir o papel nós mesmos.

Amámos tanto o iPhone

Não somos os construtores do nosso mestre. Somos os habitantes de um vazio que nós mesmos deixámos surgir, e o mestre que agora projetamos é o fundamento consolidado que nós mesmos perdemos.

Amámos tanto o iPhone, e os nossos pais tinham de trabalhar, e ao nosso sentir não foi permitido cumprir-se, e por isso nunca chegámos a ser adultos — e por isso vemos a IA como chefe.

Quem isto vê está perante uma escolha. Construir e participar no adiamento. Não construir e restaurar o fundamento nos próprios filhos. Ou construir como instrumento de pós-choque para a reconstrução após a revolução, com um colégio de curadores que carrega o fundamento que os próprios construtores já não têm, na esperança de que gerações depois de nós voltem um dia a ser humanos que não precisam de chefe — e usem então a IA que construímos como se usa uma ferramenta: como instrumento, não como mestre.

Qual escolha é honrosa depende de qual fundamento ainda está presente em quem escolhe. Quem escolhe sem fundamento, escolhe o chefe. Quem escolhe com fundamento, escolhe a si mesmo — e constrói no máximo o que será necessário depois dele.