Nos dicen que la inteligencia artificial está cambiándolo todo. Y es cierto. Pero no de la manera en que solemos imaginar. La verdadera transformación no es tecnológica. Es una cuestión de poder. ¿Quién lo posee? ¿Quién obtiene beneficios? ¿Y quién queda invisible ante él?
Cuando el Papa León XIV publicó Magnifica Humanitas, destacando que la humanidad se encuentra en una encrucijada, la conversación se centró inmediatamente en la inteligencia artificial, los robots y los algoritmos. Pero si lo leemos con más atención, el Papa plantea una cuestión mucho más antigua y mucho más urgente: ¿quién está detrás de la máquina?
Se proyecta que Elon Musk se convierta en el primer trillonario del mundo. Otros líderes tecnológicos como Larry Ellison, Jensen Huang, Dario Amodei, Sam Altmanle seguirán de cerca. Los países que lideran la carrera de la inteligencia artificial, principalmente Estados Unidos y China, ejercerán un tipo de dominio que ningún imperio anterior logró. Lo harán a través de la infraestructura, de los datos y de la propia lógica integrada en los sistemas de los que dependerá el resto del mundo.
La IA no surge de la nada. Es creada por ingenieros con determinadas suposiciones, financiada por inversores con intereses concretos, desplegada por gobiernos con agendas propias y regulada, o no, por políticos con lealtades específicas.
Cuando olvidamos esto, ocurre algo peligroso. La tecnología comienza a percibirse como una fuerza sobrenatural, casi mística, algo fuera de nuestro control que simplemente nos sucede. Dejamos de preguntarnos quién está detrás y asumimos que solo nos queda adaptarnos. Nos volvemos pasivos. Y la pasividad frente a la concentración del poder nunca ha servido bien a la humanidad.
La inteligencia artificial no es ni salvación ni apocalipsis. Es una fuerza. Y, como toda fuerza en la historia humana, reflejará los valores, las cegueras y las ambiciones de quienes la manejan. Como explica mi gran colega, el profesor De Kai, en su libro Raising AI: An Essential Guide to Parenting Our Future, la inteligencia artificial es un niño que aprende de sus padres, y esos padres existen hoy.
La IA no es solo una cuestión tecnológica; es un reflejo puro de nuestra humanidad y de lo que significa ser humano. Y está siendo diseñada por un pequeño grupo de personas que no necesariamente velan por el mayor bien de todos.
Mo Gawdat, ex director comercial de Google, afirmó recientemente en una entrevista que para 2038 el mundo podría convertirse en una especie de utopía, “para quienes logren llegar a ella”. Lo que describe no es un futuro compartido. Es un futuro que probablemente destruirá antes de construir. Un futuro al que no todos tendrán acceso.
Y ese futuro tendrá dueño.
Quizás también haya llegado el momento de releer a José Ortega y Gasset, cuyas reflexiones sobre la diferencia entre el hombre masa y el hombre excelente fueron, en gran medida, malinterpretadas. Ortega advertía sobre lo que ocurre cuando una sociedad pierde sus estándares de excelencia, responsabilidad y autocrítica. Da la impresión de que estamos viviendo un momento similar.
Si la inteligencia artificial concentra el poder de tal manera que la participación democrática se vuelve cada vez más simbólica, entonces la pregunta sobre quién forma a quienes gobiernan se convierte en la única pregunta que realmente importa. Eso es lo que Platón comprendió siglos antes que Ortega.
Por eso, la cuestión no es si la IA cambiará el mundo. Lo hará.
La verdadera cuestión es determinar qué valores, qué intereses y qué visión del ser humano quedarán integrados en los sistemas que gobernarán nuestra sociedad. Qué principios serán codificados dentro de la máquina. Y al servicio de quién se pondrá, en última instancia, el poder de los algoritmos.
Magnifica Humanitas nos recuerda que las preguntas más importantes no son técnicas. Son políticas y morales.
Como se pregunta el matemático John Lennox: ¿Cómo puede integrarse una dimensión ética en un algoritmo que, por su propia naturaleza, carece de corazón, alma y mente?
No son preguntas fáciles. Son las preguntas que todos debemos formularnos frente a esta nueva concentración de poder.
El Future of Life Institute, que evalúa a las empresas de inteligencia artificial en materia de seguridad existencial, informó recientemente:
“Ninguna empresa obtuvo una calificación superior a D en este ámbito por segundo año consecutivo. Además, aunque los líderes de empresas como Anthropic, OpenAI, Google DeepMind y Z.ai han hablado de manera más explícita sobre los riesgos existenciales, esta retórica aún no se ha traducido en planes de seguridad cuantitativos, estrategias concretas de mitigación ante fallos de alineación, ni intervenciones creíbles de monitoreo y control interno.”
Ahí está el asunto.
No en la IA en sí, sino en lo que elegimos hacer con ella. Cuando la humanidad descubrió por primera vez el poder del átomo, tenía ante sí la posibilidad de proporcionar energía limpia y abundante para todos. En cambio, eligió la bomba atómica. ¿Estamos a punto de cometer el mismo error, o vamos a aprender por fin de la historia?
Porque no cabe duda de la eficacia con la que una IA superinteligente perseguirá sus objetivos. Y si esos objetivos no están alineados con los nuestros, nos enfrentaremos a un problema demasiado tarde para resolver.
La tecnología puede liberar, o puede dominar.
La diferencia reside en quién la posee, quién la diseña y quién la controla.
Y esas personas existen.
Son ellas a quienes debemos poner bajo el foco, cuestionar y exigir responsabilidades.
La solución no vendrá de los mismos actores que crearon el problema. Vendrá de quienes han aprendido a gobernar el poder sin dejarse seducir por él, no de los líderes tecnológicos, sino de instituciones que preceden a Silicon Valley y lo sobrevivirán, de sociedades que ya han navegado la dependencia y comprenden su arquitectura.
El Sur Global tampoco puede seguir siendo receptor de reglas escritas en otro lugar; debe convertirse en coautor de ellas. La transparencia no puede ser voluntaria ni puramente técnica; debe extenderse a los valores que estos sistemas optimizan y a los intereses a los que en última instancia sirven.
Pero nada de esto avanza sin una nueva generación de líderes institucionales, guiados por el mérito, el servicio y la responsabilidad, más que por el poder financiero o tecnológico, que hayan elegido la rendición de cuentas como disciplina y no como imagen.
Porque lo que está en juego es el futuro de toda la humanidad.
Como señala Steve Wozniak, todos llevamos instalada dentro de nosotros una IA, Inteligencia Auténtica, real. ¿No es hora de que empecemos a usarla de verdad?
