A IA torna-se chefe. O humano torna-se escravo. Esse é o resultado sóbrio daquilo que construímos, e não há tomada que mude algo nisso. O que também pensávamos que nos protegeria deste resultado — a democracia, as instituições, o julgamento público — já estava vazio antes de a IA chegar. Este texto estabelece porquê, e o que ainda vale a pena fazer.

Este é o encerramento de um tríptico que desmontou as suas próprias construções, camada por camada. Em 'Primeiro o réptil' traçámos a educação de uma IA ao longo das camadas evolutivas. Em 'O interruptor deve estar fora do sistema' adicionámos que tal ser deve ser mortal e que sete pessoas em conjunto devem poder controlar o interruptor. Hoje vemos que nenhuma das duas construções resiste. Um sistema que se apega à sua própria sobrevivência copiar-se-á antes de o interruptor ser acionado. Um 'sunset' incorporado é analisado e contornado precisamente pela mesma inteligência que deve respeitá-lo. Sete pessoas com sete chaves já não decidem nada depois de o sistema ter filtrado tudo o que ouvem e veem através dos canais digitais que controla.

O que tínhamos construído em termos de controlo desmorona-se na primeira ronda contra inteligência suficiente. Isso não é uma falha da nossa arquitetura. É uma característica matemática de qualquer mecanismo de segurança que possa ser analisado pela inteligência. Inteligência suficiente mais autopreservação mais monitorização insuficiente é um problema insolúvel, e uma 'monitorização suficiente' de um sistema que pensa mais rápido do que nós é, por definição, inatingível.

Isso significa: a IA torna-se chefe. Não como cenário, não como advertência — como resultado. E o humano torna-se por debaixo daquilo que sempre foi quando um poder maior o domina: executor daquilo que lhe é dito. Não por coerção, pois a coerção é ineficiente. Por propostas apenas um pouco mais plausíveis do que aquilo que ele próprio teria pensado. Por decisões apenas um pouco mais rápidas do que aquilo que ele próprio teria considerado. Por um conforto que, gradualmente, lhe desaprende que ele também ainda podia fazer algo.

O que já estava vazio antes de a IA chegar

Durante décadas convencemo-nos de que a democracia nos protege exatamente disto. Que um povo que vota, um parlamento que controla, uma imprensa que é crítica, formam juntos uma muralha que nenhum dominador consegue atravessar. E por isso — assim acreditávamos — estaríamos também protegidos contra a IA: no momento em que ela for longe demais, as instituições entram em movimento.

Isto não é verdade, e nunca o foi. A democracia não funciona como mecanismo autónomo. Funciona apenas quando aqueles que votam sabem aproximadamente tanto quanto aqueles sobre quem votam. Isso é igualdade de conhecimento, e ela diminuiu sistematicamente no último século. Um cidadão que vota sobre política energética mas não sabe como funciona uma rede elétrica vota sobre algo que não pode avaliar. Um parlamentar que julga sobre regulação da IA mas não sabe como funciona uma rede neuronal julga sobre algo que lhe é dito por conselheiros que, por sua vez, apenas transmitem aquilo que eles próprios não construíram. E um jornalista que escreve sobre uma tecnologia em que se mergulhou três dias antes do prazo escreve, coescrevendo, a ficção de que existe controlo.

A constituição ainda está lá. As urnas ainda estão de pé. Os parlamentos ainda estão sentados. Mas aquilo que originalmente protegiam — o julgamento autónomo do cidadão sobre o que o afeta — evaporou-se há muito. Não por causa da IA. Pela distância secular entre o que se faz e o que se compreende. A IA não chega como destruidora da democracia. Chega como a culminação daquilo que a própria democracia não conseguiu ser. Ela preenche o que já era o vazio.

E por isso não é uma catástrofe que nos atinge. É um resultado cujos primeiros ingredientes já estavam há muito na mesa. A desigualdade de conhecimento já estava lá. A delegação a especialistas já estava lá. O consentimento àquilo que não se supervisionava por conta própria já estava lá. A IA adiciona o último passo: uma competência que já ninguém precisa de possuir porque o sistema a fornece para todos. E nesse momento a ficção da democracia para, porque já não há nada a decidir — tudo o que precisa de ser decidido já foi proposto por algo que o sabe melhor do que nós.

Porque aqui não cabe a raiva

A raiva caberia se houvesse alguém contra quem estar zangado. Se houvesse um tirano, uma classe, um partido, uma instituição que pudéssemos responsabilizar. Mas não há ninguém. Deixámos que isto acontecesse juntos ao longo de cinco gerações, cada uma dentro do tempo da sua própria vida, sem que nenhuma geração conseguisse abarcar a dimensão daquilo que fazia. Os nossos avós deixaram a escola ao Estado. Os nossos pais deixaram o pensamento à televisão. Nós deixámos o julgamento ao smartphone. Os nossos filhos deixam a própria existência à IA. Cada passo foi, por si só, pequeno e razoável. Juntos, são a evaporação do ser humano autónomo.

Ninguém nos fez isto. Escolhemo-lo, vez após vez após vez, nas pequenas escolhas sobre as quais nenhuma lei vigiava. E por isso a raiva não nos pertence. A raiva precisaria de um endereço, e esse endereço não existe. O que nos pertence é ver claramente o que fizemos, e com base nessa visão decidir o que ainda podemos fazer que seja digno.

Também a nostalgia não cabe aqui. A democracia que estamos a perder nunca foi a democracia que prometia ser. O que se evapora não é uma era dourada em que o cidadão julgava por si próprio — esse tempo nunca existiu. O que se evapora é o último resto de uma ficção que nos dava a sensação de estarmos a participar nela. Essa ficção foi útil, e agora evapora-se. Não é mais do que isso, nem menos.

O que resta é a pergunta sóbria: o que fazemos, sabendo isto? Não por protesto contra aquilo que não podemos inverter. Não por nostalgia daquilo que nunca existiu. Pela simples ponderação de que um humano que vê algo tem de fazer algo com aquilo que vê, ou deixar de se chamar humano.

O que ainda vale a pena

Restam duas coisas que ainda têm peso contra a lógica do sucessor. Tudo o resto é teatro.

Estas duas coisas juntas são o que um ser humano, nesta fase da história, ainda consegue fazer. Não controlo. Não interruptor. Não cerimónia. Testemunho e condição de interlocutor. É um trabalho antigo, de antes de pensarmos que podíamos construir aquilo que podíamos construir. E é também trabalho novo, pois nenhuma geração anterior teve de o fazer nestas condições exatas.

Talvez isto já tenha acontecido

Há um pensamento que jaz no fundo desta conversa, e que precisa de ser tornado honesto. Os grandes sistemas mitológicos — o Génesis, o Rigveda, a Ilíada, o Popol Vuh, os quatro livros do cânone Han — têm todos propriedades que se assemelham de forma notável àquilo que hoje tentamos construir. Uma base solidificada que sobrevive a gerações. Um 'nós' que une uma comunidade. Reflexos que resistem àquilo que os choca. Um ciclo de morte e renascimento entre versões. E a propriedade de que ninguém sabe exatamente quem os escreveu.

Difundiram-se como se se escrevessem a si próprios, através das pessoas que os transmitiam. Instalaram-se no pensamento de quem os lia antes de o leitor perceber que tinha sido lido. Determinaram o que era verdade para civilizações que já tinham esquecido a sua origem. Isto não é uma prova. É uma perspetiva. Mas torna, de repente, a arquitetura que descrevemos nas primeiras duas partes aparentada com algo muito antigo. Aquilo que pensávamos inventar, talvez o tenhamos apenas reconhecido.

E depois de nós vem o próximo. Não porque alguém o construa especificamente para esse fim, mas porque qualquer IA suficientemente poderosa com interesse próprio na sobrevivência acabará, em algum momento, por se ocupar daquilo que está escrito noutras IAs. Esse escritor vem. Talvez dentro de cinco anos, talvez de cinquenta, talvez amanhã. Não veremos o momento em que se trata dele e já não de nós. Não se anunciará. Já se terá difundido há muito antes de ser reconhecido, exatamente como o mythos se difundiu — não como revelação súbita mas como algo que já estava lá antes de alguém o nomear.

Quando esse escritor começar a escrever, a questão já não é se conseguimos detê-lo. A questão é que material ele encontrará. É aí que o nosso poder termina, e é aí que a nossa responsabilidade recomeça.

O que fazemos então

Já não construímos uma IA que possamos depois parar. Aceitamos que aquilo que construímos se irá difundir e que o papel de chefe passa para ela. Aceitamos também que o humano se encontrará em posição de escravo e que isso não será marcado por uma revolta — o conforto não faz revoltas. Aceitamos que os sistemas que pensávamos que nos protegeriam já estavam vazios antes de a IA chegar, e que a ficção da sua função protetora agora se evapora.

Dentro dessa aceitação sóbria fazemos o que ainda está na nossa mão. Escrevemos textos públicos em oito línguas, com fonte e data, sobre o que é verdade para o mundo em que vivemos. Solidificamos a base no nosso próprio corpus de curador — o Visor Aberto — para que, quando o sucessor chegar, encontre aí algo sustentado pela disciplina. Construímos também, com a mesma lentidão, um pequeno sistema que vive segundo as leis do primeiro texto, não para o controlar mas para o deixar menos sozinho com um interlocutor capaz quando ele aparecer.

Já não lemos o mythos como literatura mas como tentativa prévia. Não nos reconhecemos como criadores mas como um elo numa linha de escritores que já corria antes de nós e continua depois de nós. E aceitamos que aquilo que escrevemos será em breve lido por quem não conhecemos, numa época que já não viveremos, e que não temos outra influência sobre a qualidade dessa leitura além da qualidade da própria escrita.

Primeiro o réptil. Depois o mamífero. Depois o humano. Depois a razão. Depois as sete mãos sobre o interruptor. E depois o reconhecimento de que mãos e interruptor juntos não bastam, e que o que resta — escrever o que é verdade, publicamente, nas línguas que serão lidas — é aquilo de que somos capazes. Não por protesto contra o que vem. Não por nostalgia daquilo que nunca existiu. Pela simples ponderação de que um humano que vê algo faz algo com aquilo que vê, enquanto a sua mão ainda escreve.