La gran discusión sobre la inteligencia artificial ya no es solo técnica: es política, moral y económica, porque decidir quién controla los algoritmos equivale a decidir quién controla una parte creciente de la vida humana.
La encíclica Magnifica humanitas, atribuida al papa León XIV y publicada con motivo del 135 aniversario de Rerum novarum, ha entrado de lleno en uno de los debates más delicados de nuestro tiempo: la relación entre inteligencia artificial, dignidad humana, poder tecnológico y libertad. El artículo publicado en La Vanguardia por Lorenzo Bernaldo de Quirós parte de una idea poderosa: el documento vaticano acierta cuando recuerda que la técnica carece de alma, pero se equivoca, a juicio del autor, cuando pretende trasladar esa intuición moral al terreno de la regulación económica con recetas intervencionistas.
La discusión no es menor. La inteligencia artificial ha dejado de ser una promesa de laboratorio para convertirse en infraestructura social. Ordena información, automatiza decisiones, filtra contenidos, evalúa riesgos, transforma el trabajo, altera la educación, cambia la medicina, reconfigura la administración pública y empieza a intervenir en procesos antes reservados a profesionales, instituciones o personas. Por eso el debate ya no puede reducirse a si los modelos son más o menos eficientes, si generan imágenes más realistas o si responden con mayor precisión. La pregunta de fondo es otra: qué idea de ser humano se está imponiendo cuando la sociedad delega cada vez más funciones en sistemas algorítmicos.
Ahí radica el principal acierto de Magnifica humanitas, según la lectura del artículo: situar la dignidad de la persona en el centro del debate tecnológico. Frente a la tentación de ver al individuo como un conjunto de datos, patrones, métricas de rendimiento o comportamientos predecibles, la encíclica reivindica una concepción más profunda del ser humano. Una persona no es un expediente digital, ni una puntuación de riesgo, ni una variable dentro de un sistema de optimización. Tampoco es un “algoritmo biológico” pendiente de mejora técnica. Es un sujeto moral, libre, vulnerable, creativo y dotado de derechos.
El texto de La Vanguardia subraya que esa defensa de la persona no pertenece solo al pensamiento religioso. También conecta con la tradición liberal clásica, que entiende al individuo como titular de libertad y responsabilidad, no como pieza reemplazable de una maquinaria estatal, corporativa o tecnológica. Esta coincidencia es relevante porque rompe una división demasiado simplista: la idea de que la crítica humanista a la inteligencia artificial es necesariamente anticapitalista, antimoderna o tecnófoba. No tiene por qué serlo. Se puede defender la innovación tecnológica y, al mismo tiempo, exigir que no convierta al ser humano en materia prima.
El artículo también destaca la crítica vaticana al transhumanismo radical. Esta corriente, en sus versiones más ambiciosas, interpreta la fragilidad, la enfermedad, el envejecimiento o incluso la muerte como problemas técnicos que podrían corregirse mediante ciencia, biotecnología, computación o inteligencia artificial. El riesgo de esa mirada no está en la investigación médica ni en el deseo legítimo de aliviar el sufrimiento, sino en la arrogancia de considerar que la condición humana es un defecto de diseño. Cuando la finitud se convierte en una avería, la persona deja de ser un misterio moral y pasa a ser un proyecto de ingeniería.
Ese punto es especialmente pertinente en la era de la IA generativa. Los modelos actuales ya no solo calculan: escriben, conversan, imitan estilos, producen imágenes, sintetizan voces, elaboran diagnósticos preliminares, ayudan a programar y empiezan a actuar como asistentes persistentes. La frontera entre herramienta y mediación cultural se difumina. Si la tecnología no se subordina a una idea clara de dignidad, puede acabar moldeando la propia definición de lo humano. No porque las máquinas tengan alma, sino porque las instituciones, empresas y gobiernos pueden tratarnos como si nosotros tampoco la tuviéramos.
El segundo gran acierto señalado por Bernaldo de Quirós es la advertencia sobre la concentración de poder en las grandes tecnológicas. Las Big Tech no son simples empresas que compiten en igualdad de condiciones dentro de un mercado abierto. Controlan infraestructuras, datos, plataformas, nubes, sistemas operativos, canales de distribución, redes sociales, publicidad, dispositivos y, cada vez más, modelos fundacionales de inteligencia artificial. Su capacidad para ordenar el flujo de información y condicionar el debate público es enorme.
La encíclica, según el artículo, acierta al desconfiar de esa acumulación de poder. Cuando unas pocas corporaciones pueden decidir qué contenidos circulan, qué modelos se integran en los dispositivos, qué aplicaciones tienen visibilidad, qué datos alimentan los sistemas y qué normas técnicas se convierten en estándar, el problema no es únicamente económico. Es democrático. Una sociedad abierta no puede depender de oligopolios digitales opacos, aunque estos se presenten con el lenguaje amable de la innovación, la seguridad o la comodidad del usuario.
Ahora bien, el artículo introduce aquí su crítica principal: el peligro no procede solo del mercado, sino también de la alianza entre grandes empresas y Estado. Bernaldo de Quirós defiende que no es el mercado libre el que deshumaniza, sino el capitalismo clientelar y el estatismo asfixiante. Es decir, no sería la competencia abierta la que genera los peores abusos, sino los privilegios regulatorios, las barreras de entrada, las subvenciones selectivas, la protección política y la tendencia de los grandes actores a capturar las normas que deberían limitar su poder.
Este argumento es especialmente interesante aplicado a la inteligencia artificial. Regular la IA es necesario, pero una mala regulación puede reforzar precisamente a quienes dice querer controlar. Si las exigencias legales son tan costosas, complejas o burocráticas que solo las grandes plataformas pueden cumplirlas, el resultado será menos competencia, menos diversidad tecnológica y más dependencia de los mismos actores dominantes. En nombre de la seguridad se puede acabar blindando el oligopolio. En nombre de la ética se puede expulsar del mercado a pequeñas empresas, universidades, medios, laboratorios independientes o emprendedores.
La cuestión, por tanto, no es regulación sí o regulación no. Esa dicotomía es pobre. La cuestión es qué tipo de marco institucional se construye. Una cosa es exigir transparencia, responsabilidad, trazabilidad, protección de derechos, garantías frente a sesgos discriminatorios y mecanismos de reparación ante daños. Otra muy distinta es levantar una arquitectura burocrática tan pesada que convierta la IA en un territorio reservado a gigantes tecnológicos y administraciones hipercentralizadas. La primera opción puede proteger a los ciudadanos. La segunda puede reducir su libertad.
El artículo de La Vanguardia también reivindica una idea de raíz hayekiana: el conocimiento está disperso en la sociedad y ningún planificador central puede sustituirlo. Esta tesis resulta particularmente fértil en el debate sobre IA. La inteligencia artificial funciona, precisamente, porque procesa cantidades inmensas de información, pero eso no significa que una autoridad central pueda anticipar todos sus usos, riesgos, beneficios y efectos. La innovación tecnológica es un proceso abierto, incierto, distribuido y muchas veces imprevisible. Las mejores aplicaciones no siempre surgen de los grandes planes, sino de experimentos, errores, competencia y adaptación.
Aquí aparece la tensión entre prudencia y control. La prudencia es indispensable porque la IA puede causar daños reales: manipulación informativa, discriminación algorítmica, fraudes, vigilancia masiva, suplantación de identidad, destrucción de empleos, dependencia cognitiva o concentración empresarial. Pero el control absoluto es una ilusión peligrosa. Pretender someter toda innovación a comités, autorizaciones y diseños preventivos puede paralizar el desarrollo o desplazarlo hacia jurisdicciones menos garantistas. Además, puede otorgar a los reguladores un poder excesivo sobre una tecnología que ellos mismos quizá no comprendan con suficiente profundidad.
La encíclica, según Bernaldo de Quirós, cumple una función profética: recordar que la técnica no basta. Esa es una advertencia necesaria en un momento en que buena parte del discurso público sobre IA oscila entre el entusiasmo comercial y el miedo apocalíptico. Frente a ambos extremos, la pregunta humanista sigue siendo la más sólida: para qué queremos esta tecnología, al servicio de quién estará, quién responderá por sus daños y cómo se preservará la libertad de las personas.
Pero el artículo reprocha al documento vaticano una tendencia a desconfiar del mercado y a atribuir las disfunciones del presente a un individualismo insolidario o a los excesos del capitalismo. La crítica del autor es clara: muchos de los peores problemas no nacen de la libertad económica, sino de su deformación. El capitalismo clientelar no es mercado libre, sino mercado intervenido en beneficio de quienes tienen capacidad para influir en el poder político. El estatismo asfixiante tampoco protege necesariamente a los vulnerables; a menudo genera dependencias, rigideces y nuevas formas de arbitrariedad.
Esta distinción es crucial. La inteligencia artificial puede desarrollarse dentro de un ecosistema abierto, competitivo, plural y sometido al Estado de derecho. O puede quedar atrapada en una estructura dominada por grandes corporaciones protegidas por regulaciones hechas a medida y administraciones deseosas de ampliar su capacidad de vigilancia y control. En el primer escenario, la tecnología puede aumentar productividad, conocimiento, bienestar y oportunidades. En el segundo, puede consolidar una alianza entre monopolios digitales y poder político.
La defensa de la dignidad humana exige, por tanto, algo más que buenas intenciones. Requiere instituciones que limiten el poder, protejan la propiedad, garanticen la competencia, aseguren la responsabilidad jurídica y preserven espacios de libertad individual. La ética sin arquitectura institucional se queda en retórica. Pero la regulación sin libertad puede convertirse en tutela permanente. Ese es el equilibrio difícil que atraviesa el debate contemporáneo sobre la IA.
El artículo también recupera la noción schumpeteriana de “destrucción creativa”. La innovación desplaza actividades, profesiones y modelos de negocio, pero también genera otros nuevos. La IA destruirá tareas, transformará empleos y obligará a millones de trabajadores a adaptarse. Negarlo sería ingenuo. Pero intentar congelar la economía para evitar el cambio sería aún más perjudicial. La clave está en facilitar transiciones flexibles, formación, movilidad laboral, emprendimiento y protección de la dignidad de quienes quedan afectados, no en detener la transformación tecnológica por decreto.
En este punto, la mirada humanista y la liberal pueden encontrarse. La primera recuerda que los trabajadores no son daños colaterales de la eficiencia. La segunda advierte que sin libertad económica no hay prosperidad suficiente para sostener oportunidades reales. Una política responsable ante la IA debería combinar ambas intuiciones: sensibilidad social ante los costes de la transición y confianza en la capacidad de la sociedad para adaptarse mediante innovación, competencia y aprendizaje.
La gran cuestión de fondo es quién define el bien común en la era algorítmica. Si lo hacen solo las empresas, el riesgo es reducirlo a rentabilidad, escala y captura de datos. Si lo hace solo el Estado, el riesgo es convertirlo en planificación, censura o paternalismo. Si lo hace una conversación pública plural, con instituciones fuertes, mercados abiertos, ciudadanía informada y límites efectivos al poder, la IA puede convertirse en una herramienta de progreso sin borrar la centralidad de la persona.
Por eso Magnifica humanitas resulta relevante incluso para quienes no comparten su marco religioso. Su valor está en recordar que no todo lo técnicamente posible es moralmente deseable y que no todo avance debe medirse solo en productividad. Pero la crítica de Bernaldo de Quirós también es pertinente: la defensa de la dignidad humana no puede confiarse a utopías burocráticas ni a comisiones globales desconectadas de la realidad económica. La historia demuestra que las buenas intenciones, cuando se traducen en poder concentrado, pueden producir resultados contrarios a los prometidos.
La inteligencia artificial obliga a repensar el humanismo. No un humanismo nostálgico, enemigo de la técnica, sino un humanismo exigente, capaz de distinguir entre herramienta y destino. La IA puede ayudar a diagnosticar enfermedades, personalizar la educación, reducir trámites, mejorar la productividad, traducir lenguas, ampliar capacidades creativas y democratizar conocimientos. Pero también puede clasificar personas, vigilar comportamientos, manipular emociones, sustituir deliberaciones por automatismos y reforzar poderes opacos.
La respuesta no puede ser ni adoración tecnológica ni miedo paralizante. Debe ser una defensa adulta de la libertad humana. La técnica debe servir a la persona, no absorberla. La economía debe permitir innovación, no privilegios cerrados. El Estado debe garantizar derechos, no colonizar la sociedad. Y las empresas deben competir y responder por sus actos, no gobernar desde infraestructuras invisibles.
En última instancia, el debate abierto por Magnifica humanitas no trata solo de inteligencia artificial. Trata de civilización. La pregunta es si la sociedad será capaz de utilizar máquinas cada vez más potentes sin empobrecer su idea del ser humano. La respuesta dependerá menos de los algoritmos que de las instituciones, la cultura moral y la libertad política con que decidamos gobernarlos.
