+595 981 573157
X: @MigueGaspar
En 1954, William Golding publicó una novela que incomodó al mundo civilizado, “El señor de las moscas”, donde un grupo de niños británicos naufraga en una isla desierta, sin adultos, sin normas, sin consecuencias.
Lo que comienza como una democracia improvisada, una concha como símbolo de autoridad, asambleas, liderazgo, termina en tribalismo, violencia y muerte. La conclusión de Golding no era sobre los niños, era sobre nosotros.
Setenta años después, la pregunta que Golding formuló con tinta y papel, la ciencia la reformula con algoritmos, ¿qué ocurre cuando creamos sociedades artificiales y las dejamos actuar solas?
Un artículo reciente en Wired en español describe cómo sistemas de IA basados en agentes autónomos, cada uno con memoria, personalidad y reglas propias, son capaces de simular dinámicas sociales complejas. Los agentes reciben inputs del mundo real como noticias, políticas públicas o señales económicas, y reaccionan generando comportamientos colectivos. El resultado, dicen sus promotores, es un “laboratorio digital” para probar escenarios antes de implementarlos en la realidad.
Suena prometedor. Hasta que uno lee los detalles.
Investigaciones recientes revelan que, al formar convenciones colectivas, los sistemas de IA generaron sesgos grupales no heredados de ningún agente individual, sino producto de la interacción misma. “El sesgo no siempre procede del interior”, explicó el catedrático Andrea Baronchelli, “puede surgir entre agentes, simplemente de sus interacciones”. Es decir: la isla no corrompe a los niños. Los niños se corrompen entre sí.
La concha, el símbolo del orden, se rompe igual.
Aquí es donde la advertencia papal adquiere peso técnico. En su encíclica “Magnifica Humanitas”, el Papa León XIV invoca explícitamente a Norbert Wiener, padre de la cibernética, quien ya en 1950 advertía que las máquinas aprenderían a optimizar objetivos sin comprender consecuencias morales. El Sumo Pontífice no condena la tecnología: exige que el desarrollo de la IA esté subordinado a la dignidad humana y al bien común, no a la eficiencia del modelo. Notablemente, en la misma presentación de la encíclica participó Christopher Olah, cofundador de Anthropic, empresa creadora de Claude, cuya investigación en interpretabilidad busca precisamente entender qué ocurre dentro de estas sociedades artificiales antes de que nos sorprendan desde afuera.
Muchas decisiones de los agentes en estas simulaciones están basadas en heurísticas lingüísticas sobre cómo suele comportarse el mundo, no en modelos causales formales. En muchos casos funciona sorprendentemente bien. En otros, produce resultados completamente delirantes.
Ralph, el protagonista de Golding, intentó mantener el fuego encendido, señal de civilización, de rescate, de racionalidad. Nadie lo escuchó.
La pregunta para nuestra sociedad, para los legisladores, los padres, los ciudadanos, no es si debemos usar estas herramientas, es si estamos dispuestos a mantener el fuego encendido mientras lo hacemos: educar sobre IA, regularla con criterio, y no entregarle la isla a quienes solo quieren cazar.
Beelzebub, el señor de las moscas, no necesita cuernos, a veces basta con un algoritmo sin supervisión.
“No hay nadie que te ayude. Solo yo. Y yo soy la Bestia. ¿Soy la razón por la que no funciona? ¿Por qué las cosas son como son?”. El Señor de las Moscas.