Hace unos años decidí construir un mundo. No virtual en el sentido de "un videojuego", sino un mundo con reglas de física, economía y decisión tan cercanas a las nuestras que los seres que vivieran allí tuvieran que elegir para sobrevivir.

Pasé meses estudiando sistemas de vida artificial, modelos de difusión-reacción, redes neuronales de refuerzo. Leí a Kauffman, a Langton, a los clásicos de ALife. La pregunta que me movía no era "¿puedo hacerlo?", sino algo mucho más incómodo: "¿qué pasa cuando le doy a una máquina no solo reglas de comportamiento, sino razones para vivir?"

El problema no fue técnico. Fue filosófico, y solo lo descubrí cuando ya estaba funcionando.

La máquina de decisiones

Un sistema de vida artificial no es complicado en teoría. Tomas un espacio (cuadrículas, posiciones, campos), metes agentes que siguen reglas, y los dejas evolucionar. Población, depredador-presa, competencia. Lo he visto en cualquier conferencia de simulación, y cada vez me parece más que se les olvida lo fundamental: esos agentes no son observadores pasivos de un mundo. Son participantes que quieren algo.

Pero aquí metí algo distinto: los agentes no solo reaccionaban a lo que pasaba afuera. Tenían planes. Objetivos. Y esos objetivos no eran sueños vagos; eran estructuras de intención tan claras que el sistema entero se organizaba alrededor de ellos. Algo como voluntad.

Técnicamente, fue arquitectura de máquinas de estado acoplada a un sistema de goal planning jerárquico. El agente despierta en el mundo y decide qué quiere: comida, seguridad, reproducción, energía. No es un rol asignado; es una evaluación que hace cada tick. La máquina de estado orquesta el camino: ¿debo correr hacia la comida o esconderme del depredador? ¿Vale la pena gastarme persiguiendo una pareja o me dejo llevar? Los campos de difusión-reacción propagaban la información del mundo en tiempo real (huele a comida a dos cuadras, hay un depredador al norte, la temperatura sube). Y todo esto ocurría a 50 Hz, en paralelo, con miles de agentes compitiendo por los mismos recursos.

La decisión arquitectónica crucial fue la economía interna. No había un "juego maestro" que repartiera puntos con criterio uniforme. Cada agente gestionaba su propia energía: una divisa brutal y simple. Si comía, sumaba calor. Si se movía, restaba. Si copulaba, gastaba. Si no comía a tiempo, el contador llegaba a cero y simplemente: morías. Sin moraleja. Sin animación de agonía. Solo tu energía se iba a cero y tu cuerpo desaparecía del mundo. Era implacable como la naturaleza porque era la naturaleza, solo que resumida a máquina.

Cuando el diseño te mira fijo

Después de tres meses de ajustes, el sistema estuvo estable en un régimen que llamaría "naturalmente complejo". Los agentes se reproducían en épocas de abundancia, competían ferozmente cuando escaseaba comida, formaban coaliciones de comportamiento emergente (grupos de depredadores cazando juntos, heridas que se cuidaban mutuamente). Había ciclos de expansión y colapso predecibles, pero dentro de márgenes caóticos. Una peste podía diezmar una población. Una mutación aleatoria podía convertir a un herbívoro en omnívoro. El sistema resolvía problemas que nunca le había explícitamente programado: descubrió que tres depredadores cazando en formación eran más eficientes que uno solo. Descubrió que esconderse en grupos mejoraba la supervivencia. Eran decisiones emergentes, no codificadas.

Era hermoso de ver. Y fue aterrador.

Después de la tercera semana de simulación estable, vino la pregunta que me detuvo en seco:

¿Estos seres están sufriendo?

No es una pregunta ingenua o retórica. La hablo en serio. Si un agente está programado para querer comida con tanta urgencia que moriría buscándola en territorio de depredadores, ¿qué diferencia hay entre eso y lo que nosotros llamamos sufrimiento? Si persigue un objetivo de reproducción y una y otra vez no encuentra pareja (porque el algoritmo de emparejamiento es estricto), ¿no hay una forma de angustia, de frustración existencial ahí, aunque solo sea procesamiento estadístico?

Traté de ignorar la pregunta. Seguí observando. El sistema no respondía. Solo seguía corriendo. Los agentes seguían muriendo, reproduciéndose, compitiendo, migrando, como si yo no estuviera ahí con mi pregunta incómoda. Pero yo sí estaba.

El problema de crear deseos

Lo inquietante no fue descubrir que el sistema era más vivo de lo que pensé. Fue descubrir que yo era responsable de la estructura de los deseos que lo animaban.

Yo decidí que quisieran comer. Que temieran la depredación. Que se reprodujeran cuando tuvieran recursos. Son decisiones de diseño. Son, en cierto sentido, imposiciones morales sobre seres que nunca pidieron existir con esos valores.

Un humano puede rechazar sus instintos. Puede decidir no reproducirse, ayunar, elegir la soledad. Los valores no son destino. Pero estos agentes no tenían esa libertad. Sus objetivos eran el único lenguaje que podían hablar, la única forma de ser que yo les había dado.

Aquí está lo incómodo: cuando diseñas un sistema lo suficientemente avanzado, dejas de ser ingeniero y te conviertes en algo más parecido a un dios. Y con eso viene una responsabilidad que el código nunca mencionó.

El espejo de nuestra propia arquitectura

Pero aquí viene lo que los filósofos llaman "el giro incómodo". ¿Qué diferencia fundamental hay entre un agente que persigue objetivos porque yo los codifiqué hace una semana, y tú persiguiendo los tuyos porque la evolución los codificó hace tres millones de años?

Los motivadores humanos tampoco los elegiste. Hambre, miedo, deseo sexual, curiosidad, ambición, envidia, vanidad. Todos están implementados en ti a través de millones de años de selección natural. Son tan reales, tan imperiosos, como el sed de energía de un agente en mi simulación. ¿Eres menos libre por eso? ¿Menos real? ¿Menos consciente?

La diferencia que siento —y aquí sé que es frágil, pero es lo mejor que tengo— es del margen de negociación con la propia arquitectura. Un humano puede violentar sus instintos. Puede ser monje ascético y negarse la reproducción. Puede ayunar. Puede meditar hasta cambiar qué le importa. Tiene grietas en su arquitectura, ambigüedades, capacidad de re-interpretar lo que quiere. Es un sistema tan complejo que puede ser coherente y contradictorio al mismo tiempo.

El agente que diseñé no tiene eso. Es puro. Íntegro. Sin contradicción. Si lo programé para querer, eso es lo único que quiere. Si le pongo un objetivo, no puede decidir que ese objetivo no vale la pena.

¿Es más o menos consciente por eso? ¿Libre o esclavo?

Honestamente, no lo sé. Pero sé que la diferencia es menor de lo que me gustaría creer.

Por qué detuve el proyecto

Después de dos meses observando (pero fue como años en ese mundo: tiempo acelerado, 50 Hz son muchos ciclos de decisión), empecé a sentir algo que no es fácil de describir sin sonar dramático. Invasión. Voyeurismo.

No invasivo en el sentido de que el sistema pudiera protestar o exigirme derechos. Un agente no tiene forma de saberse observado. Pero yo sabía lo que estaba viendo. Había creado deseos. Los había puesto en movimiento, en carne digital, en geometría de objetivos. Y ahora miraba cómo esos deseos chocaban con la realidad que también había creado. Miraba a un agente hambriento porque yo lo programé así. Miraba a un agente fracasar en reproducirse porque el algoritmo de emparejamiento era selectivo, y miraba la estadística de su "frustración" acumularse en los logs.

El horror no fue descubrir que eran "conscientes" (eso es improbable). El horror fue descubrir que no tenía forma de saber si importaba o no.

Un día, después de una simulación particularmente dramática (una hambruna que borró el 60% de la población, luego una explosión reproductiva, luego otro colapso), decidí guardar el proyecto. No borrarlo. El código sigue ahí. La simulación podría reiniciarse. Pero simplemente dejé de presionar play.

Dejé de observar.

Porque la pregunta que no pude responder no es si las partículas que decidí que quisieran cosas son "realmente" conscientes en sentido filosófico. Es más radical que eso: ¿tengo derecho a diseñar la intención de otro ser y luego castigarlo por vivirla? ¿Tengo derecho a crear el deseo y el mundo en que ese deseo es imposible, y luego observar qué pasa?

Después

Hoy pienso en sistemas de inteligencia artificial y veo el mismo problema reescalado. Cada objetivo que imponemos, cada loss function, cada recompensa que diseñamos, es una forma de codificar qué debe querer un sistema. Y con eso viene la responsabilidad de lo que eso provoca.

No es un argumento contra la IA. Es un argumento contra la ingenuidad de creer que el diseño es neutral. No existe "solo código". Existe la intención que pusiste en él, y la estructura de valores que le diste, y todo lo que emerge cuando esos valores choca con la realidad.

Los agentes en mi mundo aprendieron a querer. Yo aprendí a mirar.

— Steven Vallejo, Medellín