El texto, difundido en el ámbito eclesiástico, repasa los apartados 102 a 110 del capítulo III de la encíclica Magnifica Humanitas y plantea la necesidad de marcos regulatorios y responsabilidades claras en el desarrollo de la inteligencia artificial en América Latina.
Un documento de análisis sobre la encíclica Magnifica Humanitas, del Papa León XIV, circula en ámbitos eclesiásticos y académicos de América Latina. El texto se centra en la sección “Responsabilidad, transparencia y gobernanza de la IA” (apartados 102 a 110 del capítulo III) y sostiene que la inteligencia artificial no puede considerarse moralmente neutra.
El análisis afirma que “no podemos dejar que la IA, considerándola ingenuamente como un hecho puramente técnico, sea revestida de una moralidad, objetividad y neutralismo moral cuando puede haber usos de ella evidentemente antihumanos”. Agrega que “es imperioso que tomemos la iniciativa axiomática que exceden la invocación moral y ética, para que existan responsabilidades claras y gobernanza limitante para cuidar la familia humana”.
Respecto de América Latina, el texto señala que los conceptos de gobernanza, ética algorítmica y la necesidad de “desarmar la IA” tienen “suma actualidad” y presentan “nuevos desafíos” en el plano humano, jurídico, social, económico, político y ecológico. Menciona la presencia de “discursos de odio étnico, descarte social e intolerancia religiosa que se multiplican a una velocidad virtual nunca conocida” y sostiene que en “nuestros países mayormente pobres” se construyen “ideologías impensadas hace pocos años y homogeneizadas sin ningún debate ético o moral”.
El documento cita los apartados 102, 103 y 104 de la encíclica, donde se advierte que “las decisiones delicadas… corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte”. También se afirma que “puede haber usos evidentemente antihumanos, …pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”.
En cuanto a las tendencias regulatorias, el análisis indica que “existe actualmente una tendencia en esferas de poder y gobierno de algunos de nuestros países latinoamericanos a dejar que la IA se desarrolle privadamente sin control, sin regulaciones pública responsable y a la velocidad que sea capaz”. Frente a ello, sostiene que “nuestros gobiernos democráticos necesitan tener discernimiento ético, responsabilidad, rendición de cuentas, prudencia, educación, y marcos jurídicos adecuados”.
El texto reproduce los apartados 105 a 108 de la encíclica, en los que se afirma que “para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas”. Añade que “pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana”.
Asimismo, la encíclica señala que “no basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea” y que “no serviría de nada una IA más moral, si esta moral es decidida por unos pocos”. Sobre la propiedad de los datos, indica que “no puede confiarse sólo al sector privado, sino que debe reglamentarse”.
El análisis latinoamericano menciona que en el continente “no tenemos guerras, ni carrera armamentística ni utilización de la tecnología bélica para dominar”, pero advierte que “desde otras latitudes han logrado incursionar entre nosotros quienes con poder tecnológico hallaron ambientes propicios para lograr que esto equivalga a tener derecho a tomar decisiones económicas, ecológicos, sociales y hasta políticas”.
Finalmente, el texto cita el apartado 110 de la encíclica, donde se define “desarmar la IA” como “sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva” y se sostiene que “desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”. El análisis concluye con una adhesión al llamamiento del Papa León XIV en el apartado 111 para que la innovación tecnológica sea “una forma humana de participación en el acto divino de la creación… con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien”.