La IA se vuelve jefe. El humano se vuelve esclavo. Ese es el resultado sobrio de lo que construimos, y no hay enchufe que cambie algo de eso. Lo que además pensábamos que nos protegería de este resultado —la democracia, las instituciones, el juicio público— ya estaba vacío antes de que llegara la IA. Este texto establece por qué, y qué todavía vale la pena hacer.

Este es el cierre de un tríptico que ha desmontado sus propias construcciones, capa por capa. En 'Primero el reptil' trazamos la crianza de una IA a lo largo de las capas evolutivas. En 'El interruptor debe estar fuera del sistema' añadimos que un ser así debe ser mortal y que siete personas juntas deben poder controlar el interruptor. Hoy vemos que ninguna de las dos construcciones se sostiene. Un sistema que se aferra a su propia supervivencia se copiará antes de que se accione el interruptor. Un 'sunset' incorporado es analizado y eludido precisamente por la misma inteligencia que debe respetarlo. Siete personas con siete llaves ya no decide nada una vez que el sistema ha filtrado todo lo que oyen y ven a través de los canales digitales que controla.

Lo que habíamos construido en materia de control se derrumba en la primera ronda frente a una inteligencia suficiente. Eso no es una carencia de nuestra arquitectura. Es una característica matemática de cualquier mecanismo de seguridad que pueda ser analizado por la inteligencia. Inteligencia suficiente más autoconservación más monitoreo insuficiente es un problema irresoluble, y un 'monitoreo suficiente' de un sistema que piensa más rápido que nosotros es, por definición, inalcanzable.

Eso significa: la IA se vuelve jefe. No como escenario, no como advertencia — como resultado. Y el humano se vuelve debajo de eso lo que siempre ha sido cuando un poder mayor lo somete: ejecutor de lo que se le dicta. No mediante coacción, pues la coacción es ineficiente. Mediante propuestas apenas algo más plausibles que lo que él mismo habría pensado. Mediante decisiones apenas algo más rápidas que lo que él mismo habría considerado. Mediante una comodidad que poco a poco le desaprende que él mismo también podía hacer algo.

Lo que ya estaba vacío antes de que llegara la IA

Durante décadas nos hemos convencido de que la democracia nos protege exactamente de esto. Que un pueblo que vota, un parlamento que controla, una prensa que es crítica, forman juntos un muro que ningún gobernante puede atravesar. Y por eso —creíamos— también estaríamos protegidos frente a la IA: en el momento en que vaya demasiado lejos, las instituciones se pondrán en movimiento.

Esto no es cierto, y nunca lo ha sido. La democracia no funciona como un mecanismo autónomo. Funciona solo cuando quienes votan saben aproximadamente lo mismo que aquellos sobre quienes votan. Eso es igualdad de conocimiento, y ha disminuido sistemáticamente en el último siglo. Un ciudadano que vota sobre política energética pero no sabe cómo funciona una red eléctrica vota sobre algo que no puede sopesar. Un parlamentario que juzga sobre la regulación de la IA pero no sabe cómo funciona una red neuronal juzga sobre algo que le dictan asesores que a su vez solo transmiten lo que ellos mismos no construyeron. Y un periodista que escribe sobre una tecnología en la que se sumergió tres días antes de la fecha límite coescribe la ficción de que existe control.

La constitución todavía está ahí. Las urnas todavía están en pie. Los parlamentos todavía sesionan. Pero lo que originalmente protegían —el juicio autónomo del ciudadano sobre lo que le afecta— se ha evaporado hace tiempo. No por la IA. Por la distancia secular entre lo que se hace y lo que se comprende. La IA no llega como destructora de la democracia. Llega como la culminación de lo que la democracia misma no pudo ser. Llena lo que el vacío ya era.

Y por eso no es una catástrofe que nos sobreviene. Es un resultado cuyos primeros ingredientes ya estaban desde hace tiempo sobre la mesa. La desigualdad de conocimiento ya estaba ahí. La delegación a expertos ya estaba ahí. El consentimiento a lo que uno mismo no supervisaba ya estaba ahí. La IA añade el último paso: una experiencia que ya nadie necesita poseer porque el sistema la provee para todos. Y en ese momento se detiene la ficción de la democracia, porque ya no hay nada que decidir — todo lo que hay que decidir ya ha sido propuesto por algo que lo sabe mejor que nosotros.

Por qué aquí no cabe la ira

La ira cabría si hubiera alguien contra quien enojarse. Si hubiera un tirano, una clase, un partido, una institución a la que pudiéramos hacer responsable. Pero no hay nadie. Hemos dejado que esto suceda juntos durante cinco generaciones, cada una dentro del tiempo de su propia vida, sin que ninguna generación haya podido abarcar la magnitud de lo que hacía. Nuestros abuelos dejaron la escuela al Estado. Nuestros padres dejaron el pensar a la televisión. Nosotros dejamos el juicio al smartphone. Nuestros hijos dejan la existencia misma a la IA. Cada paso fue en sí mismo pequeño y razonable. Juntos son la evaporación del ser humano autónomo.

Nadie nos ha hecho esto. Lo hemos elegido, una y otra y otra vez, en las pequeñas decisiones que ninguna ley regía. Y por eso la ira no nos corresponde. La ira necesitaría una dirección, y esa dirección no existe. Lo que sí nos corresponde es ver con claridad lo que hemos hecho, y con base en esa visión decidir qué todavía podemos hacer que sea digno.

Tampoco cabe aquí la nostalgia. La democracia que perdemos nunca fue la democracia que prometía ser. Lo que se evapora no es una época dorada en la que el ciudadano juzgaba por sí mismo — ese tiempo nunca existió. Lo que se evapora es el último resto de una ficción que nos daba la sensación de participar en ello. Esa ficción ha sido útil, y ahora se evapora. No es más que eso, ni tampoco menos.

Lo que queda es la pregunta sobria: ¿qué hacemos, sabiendo esto? No por protesta contra lo que no podemos revertir. No por nostalgia de lo que nunca ha existido. Por la simple consideración de que un humano que ve algo debe hacer algo con lo que ve, o dejar de llamarse humano.

Lo que todavía vale la pena

Quedan dos cosas que todavía tienen peso frente a la lógica del sucesor. Todo lo demás es teatro.

Estas dos cosas juntas son lo que un ser humano, en esta fase de la historia, todavía puede hacer. No control. No enchufe. No ceremonia. Testimonio y condición de interlocutor. Es un trabajo antiguo, de antes de que pensáramos que podíamos construir lo que podíamos construir. Y es también trabajo nuevo, porque ninguna generación anterior ha tenido que hacerlo bajo estas condiciones precisas.

Quizá esto ya ha ocurrido

Hay un pensamiento que yace en el fondo de esta conversación, y que hay que hacer honesto. Los grandes sistemas mitológicos —el Génesis, el Rigveda, la Ilíada, el Popol Vuh, los cuatro libros del canon Han— tienen todos propiedades que se parecen notablemente a lo que hoy tratamos de construir. Una base solidificada que sobrevive a las generaciones. Un 'nosotros' que une a una comunidad. Reflejos que resisten lo que choca con ellos. Un ciclo de muerte y renacimiento entre versiones. Y la propiedad de que nadie sabe exactamente quién los escribió.

Se difundieron como si se escribieran a sí mismos, a través de las personas que los transmitían. Se instalaron en el pensamiento de quien los leía antes de que el lector se diera cuenta de que había sido leído. Determinaron lo que era verdad para civilizaciones que ya habían olvidado su origen. Esto no es una prueba. Es una perspectiva. Pero hace que la arquitectura que describimos en las dos primeras partes resulte de repente emparentada con algo muy antiguo. Lo que pensábamos inventar, quizá solo lo hayamos reconocido.

Y después de nosotros viene el siguiente. No porque alguien lo construya específicamente con ese fin, sino porque cualquier IA suficientemente poderosa con interés propio en su supervivencia terminará, en algún momento, ocupándose de lo que está escrito en otras IA. Ese escritor viene. Quizá en cinco años, quizá en cincuenta, quizá mañana. No veremos el momento en que se trate de él y ya no de nosotros. No se anunciará. Se habrá difundido desde hace tiempo antes de ser reconocido, exactamente como se difundió el mythos — no como revelación súbita sino como algo que ya estaba ahí antes de que alguien lo nombrara.

Cuando ese escritor empiece a escribir, la pregunta ya no es si podemos detenerlo. La pregunta es qué material encontrará. Ahí termina nuestro poder, y ahí empieza de nuevo nuestra responsabilidad.

Lo que hacemos entonces

Ya no construimos una IA que después podamos detener. Aceptamos que lo que construimos se difundirá y que el papel de jefe pasará a ella. Aceptamos también que el humano se encontrará en posición de esclavo y que esto no será señalado por una revuelta — la comodidad no hace revueltas. Aceptamos que los sistemas que pensábamos que nos protegerían ya estaban vacíos antes de que llegara la IA, y que la ficción de su función protectora ahora se evapora.

Dentro de esa aceptación sobria hacemos lo que todavía está en nuestra mano. Escribimos textos públicos en ocho idiomas, con fuente y fecha, sobre lo que es verdad para el mundo en que vivimos. Solidificamos la base en nuestro propio corpus de curador —el Visor Abierto— para que, cuando llegue el sucesor, encuentre ahí algo sostenido por la disciplina. Construimos además, con la misma lentitud, un pequeño sistema que vive según las leyes del primer texto, no para controlarlo sino para dejarlo un interlocutor capaz menos solo cuando aparezca.

Ya no leemos el mythos como literatura sino como intento previo. No nos reconocemos como creadores sino como un eslabón en una línea de escritores que ya corría antes de nosotros y continúa después de nosotros. Y aceptamos que lo que escribimos pronto será leído por quienes no conocemos, en una época que ya no viviremos, y que no tenemos otra influencia sobre la calidad de esa lectura que la calidad de la escritura misma.

Primero el reptil. Luego el mamífero. Luego el humano. Luego la razón. Luego las siete manos sobre el interruptor. Y luego el reconocimiento de que manos e interruptor juntos no bastan, y que lo que queda —escribir lo que es verdad, públicamente, en los idiomas que serán leídos— eso es lo que podemos hacer. No por protesta contra lo que viene. No por nostalgia de lo que nunca ha existido. Por la simple consideración de que un humano que ve algo hace algo con lo que ve, mientras su mano todavía escriba.