En su mensaje para la Jornada Mundial de la Paz, que se celebrará el 1 de enero de 2024, el Papa Francisco insta a la comunidad internacional a “adoptar un tratado internacional vinculante” para regular el desarrollo y el uso de la inteligencia artificial (IA). En un texto publicado el 14 de diciembre de 2023, el Papa expresa ampliamente su preocupación por las peligrosas repercusiones del progreso tecnológico en la humanidad, en particular en términos de discriminación, desigualdad y condicionamiento.
En su saludo de Año Nuevo a los católicos y a los líderes mundiales, el 266º Papa se alegra del “progreso de la ciencia”, reconociendo los “extraordinarios avances” que han permitido aliviar “innumerables males que afligían la vida humana”. No hay “rechazo tecnofóbico” por parte del Pontífice argentino, subrayó el experto francés Mathieu Guillermin, profesor de la Universidad Católica de Lyon, al presentar el mensaje en una rueda de prensa en el Vaticano.
Pero al Pontífice, que pronto cumplirá 87 años, le preocupan las consecuencias de la “inmensa expansión” de la inteligencia artificial y sus algoritmos. Para la Santa Sede, esta realidad representa “quizá la apuesta más arriesgada de nuestro futuro”, dijo el cardenal Michael Czerny, Prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral.
El Papa teme especialmente la ausencia de mediación humana en los sistemas de IA utilizados para determinar “la fiabilidad de un solicitante de préstamo bancario, la idoneidad de una persona para un puesto de trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social”. Teme “formas de prejuicio y discriminación”, y “errores sistémicos” que den lugar a “formas reales de desigualdad social”.
En este texto de siete páginas publicado en ocho idiomas, el jefe de la Iglesia católica insta especialmente a la comunidad internacional a trabajar “para adoptar un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas”. También pide la creación de organismos “para examinar las cuestiones éticas emergentes” y proteger los derechos de los usuarios.
El Comité sobre Inteligencia Artificial (CAI) del Consejo de Europa estudia actualmente cómo regular la IA. Las Naciones Unidas acaban de anunciar la creación de un comité de alto nivel dedicado a la IA.
Para el Papa, se trata de “no dejar [la IA] en manos de los propietarios y desarrolladores”, explicó el cardenal Czerny. Porque, escribe Francisco, “las innovaciones tecnológicas no son ajenas a la realidad ni neutrales”, y no podemos “suponer a priori” que serán “beneficiosas”.
Amenazas en todos los ámbitos
Mientras las nuevas herramientas ya están cambiando “innumerables […] aspectos de la vida cotidiana”, los desafíos son “técnicos, pero también antropológicos, educativos, sociales y políticos”, insistió el Pontífice argentino. Alertó contra el uso de las “huellas digitales” que deja cada internauta para “controlar los hábitos mentales y relacionales de las personas, a menudo sin su conocimiento, con fines comerciales o políticos, limitando el ejercicio consciente de su libertad de elección”.
Ante el desarrollo tecnológico, teme “campañas de desinformación”, “interferencias en los procesos electorales, la instauración de una sociedad que vigila y controla a los individuos, la exclusión digital y la exacerbación de un individualismo cada vez más desconectado de la comunidad”.
Refiriéndose a las “máquinas que aprenden por sí mismas” – machine learning, como el famoso ChatGPT – el Papa advierte que “la capacidad de ciertos dispositivos de producir textos sintáctica y semánticamente coherentes […] no es garantía de fiabilidad”. “No todo se puede predecir, no todo se puede calcular”, insiste también.
Garantizar la supervisión de las armas autónomas
“Es la inteligencia artificial con fines bélicos lo que más nos asusta”, declaró a la prensa el cardenal Czerny. “El mundo no necesita realmente que las nuevas tecnologías contribuyan al desarrollo injusto del mercado y del comercio de armas”, se lee en el mensaje.
El Papa Francisco pide “una supervisión humana adecuada, significativa y coherente de los sistemas autónomos de armas letales”, que “nunca pueden ser sujetos moralmente responsables” y que incluso corren el riesgo de facilitar “atentados terroristas”.
Sentido de los límites y educación crítica
En el ámbito de la IA, el Papa Francisco pide “una adecuada formación en la responsabilidad”. En particular, insta a educar a los jóvenes, “impregnados por la tecnología”, a pensar “críticamente”.
El sucesor de Pedro lamenta que la mentalidad actual descuide “el sentido de los límites”. Y advierte: “El ser humano, […] creyendo superar todos los límites gracias a la tecnología, corre el riesgo, en su obsesión por querer controlarlo todo, de perder el control de sí mismo; en su búsqueda de la libertad absoluta, de caer en la espiral de una dictadura tecnológica”.
Para no dejar que los algoritmos “determinen la forma en que entendemos los derechos humanos”, o “dejen de lado los valores esenciales de la compasión, la misericordia y el perdón”, pide “un desarrollo ético de los algoritmos – algor-ética”. Para el Papa, los valores deben guiar la investigación y todas “las fases de experimentación, diseño, producción, distribución y comercialización”.
