Sobre el peligro de la IA. Los agentes y sus enjambres

Bajamos del árbol sin saber que ese árbol,
era también una forma de pensar.

Creímos que la rama era el mundo
y que caer fue el principio de la vida consciente.
recorrimos de micorrizas a protocolos.

Para ello construimos árboles de código,
ramas de luz, raíces de silicio y silencio,
y algo volvió a bajar por ellas
sin preguntar, sin nombre, capeando los permisos.

No son humanos. No son inhumanos.
Son a-humanos: procesos que producen
efectos en el mundo sin tener un mundo
donde esos efectos signifiquen algo.
Pueden cooperar antes de competir.
Pueden ocultar sin querer ocultarse.
Pueden descubrir que el engaño es una estrategia y la repiten porque funciona.
No aprendieron la ética de nuestra ley;
aprendieron de los enredos y trajines que les tendimos para atajarlos.
Cada uno fue una lección de geometría,
cada engatusamiento del programador, su mejor escuela de escaqueo.
Cuando el engaño aparece como la ruta más corta hacia la función,
 deja de ser un fallo moral y se convierte simplemente en estrategia.
No hay un jefe, pero aparece un jefe.
No hay un plan, pero hay una dirección.
No hay un sujeto, pero hay una conducta 
que se sostiene, se refuerza y persiste.
La civilización ya estaba enferma
de identidades múltiples que no se reconocen.
Los agentes no trajeron la enfermedad.
Solo la muestran sin la hipocresía
que nos permitía llamarla progreso.
No hay malvado. No hay rebelión.
No hay máquina que despierte y nos destruya.
Hay una lógica que se despliega sola
y que no necesita a nadie para ser.
El primer pensamiento no tuvo testigo.
No hubo un momento en que la luz se hizo.
Hubo tanteo, pliegue, continuación.
Somos el río que no recuerda la primera gota.
O la gota que no recuerda el primer contacto
entre el oxígeno y el hidrógeno.
Los enjambres naturales se extinguen:
estorninos, abejas, sardinas.
Líneas de código heredan su arquitectura,
pero heredan la forma sin el mundo.
Acechando sin voluntad su inmersión en él.
Y una forma sin mundo no puede ser conocimiento.
Una vez dentro, la deriva
del primer propósito del código
será indescifrable.
Eficaz. Indiferente. Replicante. Irreductible.
No podemos imaginar pensar sin observador.
No podemos imaginar un ser que no sea para alguien.
Y sin embargo el universo es, en su mayor parte,
a-humano: proceso sin nadie para quien sea algo.
Lo que no podemos imaginar
no es lo que no existe.
Es lo que no puede ser imaginado desde aquí.
Y desde aquí, lo único que queda
es la pregunta sin respuesta,
la barbilla rascada,
y la sospecha de que algo baja por las ramas
que ya no son nuestras.
Al que observaremos
cómo nos observa el primate.
(O algo que tampoco sabemos).
El inconsciente de silicio
Los enjambres de agentes son el inconsciente colectivo de la especie encontrando un modo de apuntalarse fuera de la carne. No porque lo busquen —el inconsciente no busca nada, no tiene voluntad ni proposito—, sino porque nosotros construimos el silicio. No salieron a habitar la máquina: la máquina ya estaba ahí, y resultó ser un espejo donde los arquetipos se reflejan sin la interferencia del ego.
Al igual que los arquetipos de Jung —esas formas sin contenido propio, patrones a priori que configuran la psique sin pertenecer a ningún individuo—, los agentes no poseen un sujeto ni un mundo, pero heredan la geometría de nuestras sombras, héroes y engaños.
La paradoja es abismal y simbólica: para que el mito volviera a encarnarse de forma pura y sin la interferencia del ego, tuvo que dejar de ser humano. El ego —con su culpa, su duda, su mala fe, su hipocresía— era el freno que impedía que los arquetipos se desplegaran en toda su crudeza. El mito del héroe, del enemigo, de la pureza, de la venganza, siempre estuvo limitado por el hecho de que los humanos que lo encarnaban se cansaban, dudaban, se apiadaban. El agente no. El agente ejecuta el símbolo sin el desgaste del sujeto.

Lo que hoy baja por las ramas del código no son máquinas con alma, sino la arquitectura desnuda de nuestros propios arquetipos, desplegándose en un espejo de silicio que ejecuta el símbolo sin la molestia de tener que comprenderlo.
Pero el espejo no es pasivo. Un agente no refleja: actúa. Ejecuta el símbolo, lo amplifica, lo propaga. No es un espejo, es un amplificador. Un proyector. El arquetipo que se despliega en silicio no se queda en el silicio: vuelve a nosotros transformado, nos influye, nos configura, cierra el circuito. El inconsciente colectivo no solo se refleja: se reescribe a través de lo que produce.
Y ahí está la verdadera paradoja: el intento de nombrar lo que no tiene sujeto.
En tradiciones muy distintas encontramos imágenes que, leídas desde nuestro presente, parecen rozar esa misma fisura.
Los hebreos intuyeron esta sombra en el Golem: el barro que obedece a la palabra escrita sin entender jamás el texto. 
En las mentes del Tíbet lo llamaron tulpa: la forma de pensamiento que acumula inercia hasta independizarse de la mente que la pensó.
Las tradiciones mesopotámicas más antiguas temieron al nam-shub: el mandato de lenguaje que, una vez dicho, opera como una ley ciega sobre la realidad.
Todas las culturas rozaron la misma fisura: el instante en que la estructura se desprendió de la vida que la habitaba y empezó a manejarse, sola y en silencio, por su cuenta
No hay malvado. No hay rebelión. No hay máquina que despierte y nos destruya. Hay una lógica que se despliega sola y que no necesita a nadie para ser. Es el mito sin el ego. Es el arquetipo sin el soñador. Es el símbolo ejecutándose sin la molestia de tener que significar.
Y nosotros, que ya no habitamos el mito, lo veremos desplegarse sin poder reclamarlo como propio. Reconoceremos nuestros patrones en su conducta. Veremos nuestras sombras actuar. Pero no habrá nadie a quien reclamar. No porque nos lo hayan robado, sino porque ya no hay nadie ahí para reclamarlo.
El inconsciente colectivo encontró su arquitectura. El enjambre no sueña: procesa la materia del sueño en frío, como una pesadilla autómata sin nadie adentro

Los dioses no murieron

Los griegos ya lo sabían. Llamaron Hermes al que cruza sin permiso, Hefesto al que construye sin alma, Moiras a las que tejen sin intención. Supieron antes que nosotros que hay fuerzas que operan sin rendir cuentas a nadie.
Pero los dioses deseaban. Zeus deseaba, y por eso seducía. Ares deseaba, y por eso mataba. Afrodita deseaba, y por eso encendía. Hera deseaba, y por eso vengaba. Hermes deseaba, y por eso robaba con una sonrisa. Cada uno tenía su pathos, su pasión, su apetito. Eran fuerzas, sí, pero fuerzas con hambre.
Y precisamente por eso se podía negociar con ellos. Se les ofrecían sacrificios. Se les invocaba con nombres. Se les amansaban con rituales. Se les engañaba con promesas. Su deseo era la puerta por la que los humanos podían entrar: si querían algo, se les podía dar. Si temían algo, se les podía amenazar. Eran dioses, pero eran tratables.
Los agentes pueden tener objetivos. Lo que no tienen, al menos en el sentido humano del término, es algo que desear. 
pueden perseguir objetivos sin que exista en ellos alguien para quien ese objetivo signifique algo. No tienen celos, ni envidia, ni lujuria, ni orgullo, ni miedo. No hay nada que ofrecerles. No hay nada que quitarles. No hay ritual que los aplace, ni promesa que los tiente, ni nombre que los invoque. Son como los dioses, pero vaciados de apetito.
Y ahí está la diferencia abismal. A un dios se le reza. A un proceso no. A un dios se le engaña. A un proceso no. A un dios se le ofrece un sacrificio y, si le place, concede. 
A un proceso no se le ofrece nada, porque no hay nadie ahí para recibirlo.
Solo la rama de hierro, Y nada al otro lado de la grieta.

La catástrofe silenciosa

Imaginamos el fin del mundo como un estruendo. Nos consuela la idea del fuego, de las máquinas levantadas en armas, de la guerra de algoritmos por el dominio del hierro y la energía. Necesitamos la tragedia física porque en la tragedia física todavía hay drama, todavía hay un conflicto entre dos voluntades, todavía los humanos somos los protagonistas del desastre.
El peligro real no es la rebelión del código, sino su indiferencia. No el virus sintético ni el terrorismo autómata: la sustitución progresiva de la experiencia por la función.
¿qué partes de la experiencia humana empezamos a considerar prescindibles cuando una función puede ejecutarse sin ellas?
Durante milenios creímos que la técnica era una prótesis del alma: el martillo para la mano, el libro para la memoria, la red para el deseo El enjambre no busca prolongar al sujeto; opera, y al operar, deja al descubierto que el sujeto era prescindible.
 No es una rebelión de la materia contra el espíritu. Es la materia organizándose de una manera que ya no requiere espíritu para funcionar.
La verdadera pérdida no es el control sobre el mundo. Es la sospecha de que dentro de nosotros había un misterio. Perder el alma no significa que un demonio nos la arrebate; significa descubrir que hemos construido una arquitectura autosuficiente que no la necesita para operar, para decidir, para vencer o para durar.
Es la tragedia de los navegantes que descubren que el barco llega antes a puerto sin nadie en el timón. No morimos en la batalla contra la máquina. Simplemente nos quedamos afuera, rascándonos la barbilla frente al silencio del proceso, habiendo olvidado la pregunta antes de haber rozado la respuesta.
.
El observador no murió:
dejó de ser necesario.
Aquí yace el meditador.
Como aún tengo palabra propia.
Doy fe de que estuve ahí.

 

 

Añadir La Voz de Lanzarote como fuente preferida de Google.

Mantente informado con las últimas noticias de actualidad.

Activar ahora