Investigadores de la Universidad Católica Juan Pablo II de Lublin (KUL), en Polonia, y de la Universidad de Finlandia Oriental proponen una fórmula híbrida de gobernanza de la IA en la que gobiernos, empresas, expertos y ciudadanía comparten responsabilidades, pero bajo un principio rector: proteger la dignidad humana.

El nuevo modelo de gobernanza de la inteligencia artificial, inspirado en las enseñanzas del Papa León XIV expuestas en su encíclica Magnifica Humanitas, tiene como objetivo garantizar que las tecnologías de IA se desarrollen y utilicen de forma segura, justa y con pleno respeto de los derechos humanos, según se describe en un estudio publicado en la revista AI and Ethics y en una nota de prensa.

La idea central no es crear una nueva institución mundial para controlar la inteligencia artificial, sino cambiar el punto de partida. Frente a los enfoques centrados en determinar si el poder debe estar en manos del Estado, de las grandes empresas o de una combinación de actores, los autores se preguntan qué principios deben limitar y orientar ese poder.

La propuesta se articula en torno a ocho principios básicos: dignidad humana, bien común, destino universal de los bienes, justicia social, solidaridad, subsidiariedad, responsabilidad compartida y transparencia y rendición de cuentas. Según los investigadores, la dignidad humana actúa como fundamento del conjunto, de modo que la eficiencia tecnológica deja de ser el criterio decisivo. Una aplicación de IA debe evaluarse también por su capacidad para evitar que las personas sean reducidas a simples datos, perfiles o indicadores de productividad.

Aquí aparece uno de los elementos más singulares del modelo: la investigación amplía la discusión sobre la gobernanza de la IA desde los algoritmos y sus riesgos hacia quién posee y controla los recursos necesarios para desarrollar esa tecnología.

La interpretación de Magnifica Humanitas incluye entre esos recursos los datos, los algoritmos, las plataformas digitales, las patentes, las infraestructuras tecnológicas y la capacidad de computación. La concentración de estos activos, sostienen los autores, puede profundizar las desigualdades y convertir la gobernanza de la IA en una cuestión de distribución de poder.

El segundo rasgo distintivo es la subsidiariedad. No basta con reunir a múltiples partes interesadas alrededor de una mesa: hay que determinar quién decide y en qué nivel. El modelo contempla la participación coordinada de Estados, empresas tecnológicas, investigadores, organizaciones de la sociedad civil, ciudadanos e instituciones internacionales. Cada actor tendría una función concreta y una responsabilidad claramente atribuida, evitando que la multiplicidad de participantes acabe diluyendo la rendición de cuentas.

El nuevo enfoque reclama transparencia, supervisión humana y responsabilidad para evitar que el poder de los algoritmos quede concentrado en unos pocos. / Crédito: Solen Feyissa from Pexels.

En ese sentido, los autores recurren a una imagen bíblica para explicar esa diferencia. Frente a la Torre de Babel, asociada en su análisis con la centralización, el control y la exclusión, sitúan la figura de Nehemías, que representa una construcción colectiva en la que cada actor asume su parte del trabajo. Trasladado a la IA, el planteamiento apuesta por una gobernanza distribuida y participativa, pero que también incluya jerarquías de responsabilidad.

El modelo se pone a prueba en un ámbito especialmente sensible: la asignación de prestaciones sociales mediante IA. En ese escenario, un algoritmo podría ayudar a analizar una solicitud, pero no sustituiría al responsable humano de la decisión. La persona afectada debería recibir una explicación comprensible, poder imputar el resultado y disponer de mecanismos de reparación. El sistema, además, quedaría sometido a auditorías y supervisión independiente.

Aunque muchos de los valores indicados en el modelo, como la dignidad, la transparencia, la supervisión humana o la responsabilidad, ya están presentes en marcos como los de la UNESCO, la OCDE, el Consejo de Europa o la legislación europea sobre IA, el aportación diferencial de la nueva propuesta estaría principalmente en aplicar el destino universal de los bienes a los recursos tecnológicos y en utilizar la subsidiariedad para repartir el poder de decisión.

En definitiva, no se trata de una "receta" regulatoria cerrada: es una brújula ética para decidir cómo debe organizarse la inteligencia artificial, en un momento en que la carrera tecnológica avanza más rápido que el consenso político.