El año pasado, desde estas mismas páginas, habíamos querido abordar algunas de las innumerables aristas del tema de la Inteligencia artificial (IA) —en esos casos el uso en la educación y la gobernanza a nivel nacional y global—. Es un trabajo difícil, porque la maraña que rodea y se construye (¿o autoconstruye?) alrededor de la IA es mucha. Piense el lector que este mismo artículo pudo haber sido escrito, en todo o en parte, a través de IA (quédese tranquilo, para bien o para mal, no lo fue).
La Santa Sede ha seguido atentamente la evolución de este tipo de tecnologías y de qué forma afectan la vida del ser humano.
En este artículo se quisieron destacar dos documentos vaticanos. El primero es el mensaje del papa Francisco para la Jornada Mundial de la Paz 2024. El segundo es la nota Antiqua et nova, de los dicasterios para Doctrina de la Fe y para la Cultura y la Educación.
Inteligencia artificial y paz
En su Mensaje en la Jornada Mundial de la Paz, el Santo Padre escribe sobre las posibilidades que da la tecnología de mejorar la vida del ser humano en lo laboral, en la salud, y en las propias interacciones personales. Pero, a su vez, también reflexiona sobre los graves peligros que su mal uso puede acarrear: “los progresos técnico-científicos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común”.
El papa asegura que los desafíos que plantea la IA no son sólo de orden técnico —no es solamente un problema de algoritmos—, sino que entran en juego temas antropológicos, educativos, sociales y políticos. Insiste en que “Es necesario ser conscientes de las rápidas transformaciones que están ocurriendo y gestionarlas de modo que se puedan salvaguardar los derechos humanos fundamentales, respetando las instituciones y las leyes que promueven el desarrollo humano integral. La inteligencia artificial debería estar al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos”.
En el texto, el Santo Padre advierte que “La confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad. Todos estos factores corren el riesgo de alimentar los conflictos y de obstaculizar la paz”.
Un énfasis importante que hace Francisco es que, si bien estas tecnologías permiten efectuar tareas con mayor eficiencia, las directivas con las que trabajan siguen siendo de resorte humano. “El riesgo es que los criterios que están en la base de ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad”, añade. El papa argumenta que, en cierto sentido, este actuar es favorecido por el sistema tecnocrático, “que alía la economía con la tecnología y privilegia el criterio de la eficiencia, tendiendo a ignorar todo aquello que no está vinculado con sus intereses inmediatos”.
Es en ese momento que Francisco pone sobre la mesa el tema de los límites, “El ser humano, en efecto, mortal por definición, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo, en la obsesión de querer controlarlo todo, de perder el control de sí mismo, y en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica. Reconocer y aceptar el propio límite de criatura es para el hombre condición indispensable para conseguir o, mejor, para acoger la plenitud como un don”, argumenta.
Pero, ¿por qué habla el Santo Padre de IA en un mensaje de la Jornada de la Paz? La respuesta la da el propio mensaje: “La búsqueda de las tecnologías emergentes en el sector de los denominados ‘sistemas de armas autónomos letales’, incluido el uso bélico de la inteligencia artificial, es un gran motivo de preocupación ética. Los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables”. Y afirma a continuación: “realmente lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra”.
Sobre el final de su reflexión, Francisco anima a toda la familia humana a hacerse responsables por el buen uso de estas tecnologías, porque “La paz, en efecto, es el fruto de relaciones que reconocen y acogen al otro en su dignidad inalienable, y de cooperación y esfuerzo en la búsqueda del desarrollo integral de todas las personas y de todos los pueblos”.
La inteligencia artificial y la inteligencia humana
El pasado 28 de enero, fue presentado el documento Antiqua et nova, firmado por el Card. Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe, y el Card. José Tolentino de Mendonça, prefecto del Dicasterio para la Cultura y la Educación. En esa nota, de 30 páginas, se afrontan las cuestiones antropológicas y éticas planteadas por la IA, porque, según se asume en la misma introducción “son particularmente relevantes en cuanto que uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado”.
El texto destaca que, a diferencia de otras muchas creaciones humanas, “la IA puede ser entrenada en producciones del ingenio humano y por tanto generar nuevos ‘artefactos’ con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público”.
En el texto, así como hacía el papa Francisco en el Mensaje por la Jornada Mundial por la Paz de 2024, se enfatiza en que del uso y desarrollo de este tipo de tecnologías derivan problemas de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. “Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo”, añade.
En la nota se explica que “Analizando grandes conjuntos de datos con el objetivo de identificar patrones, la IA puede ‘predecir’ los efectos y proponer nuevas vías de investigación, imitando así ciertos procesos cognitivos típicos de la capacidad humana de resolución de problemas”. Pero también se advierte que, si bien sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, no le permiten pensar. “Esta distinción tiene una importancia decisiva, porque el modo como se define la ‘inteligencia’ va, inevitablemente, a determinar la comprensión de la relación entre el pensamiento humano y dicha tecnología”, asegura el texto
Para los redactores de la nota de los dicasterios “La inteligencia humana no consiste, principalmente, en realizar tareas funcionales, sino en comprender e implicarse activamente en la realidad en todos sus aspectos, y también es capaz de sorprendentes intuiciones”. Y añaden: “Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar”.
Ya sobre el final del documento, los autores argumentan que si bien el conocimiento que se ha acumulado y la capacidad de acceder a este habrían maravillado a pasadas generaciones, para que realmente sean fructíferos deben estar acompañados de una verdadera sabiduría. En ese sentido manifiestan, citando al papa Francisco: “Esta sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA: ‘Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo’. Esta ‘sabiduría del corazón’ es ‘esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias’. La humanidad no puede ‘esperar esta sabiduría de las máquinas’, en cuanto ella ‘se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cfr. Sab 6,12-16)’”.
Ver todas sus notas aquí.