Como pudimos leer en el artículo anterior, la inteligencia artificial, o IA, es una nueva tecnología que cada vez ocupa un lugar más importante en la actualidad y que plantea numerosas interrogantes, llegando incluso a amenazar la naturaleza misma y la supervivencia del ser humano. Recientemente, el 28 de enero de 2025, a petición del Santo Padre, el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación emitieron una nota titulada « Antiqua et nova » sobre « la relación entre la inteligencia artificial y la inteligencia humana », en la que se explican con más detalle los límites y peligros de la IA. Estos son los puntos principales.
A. Pilote
Con antigua y nueva sabiduría (cf. Mt 13,52) estamos llamados a considerar los cotidianos desafíos y oportunidades propuestos por el saber científico y tecnológico, en particular los del reciente desarrollo de la inteligencia artificial (IA).
La IA puede generar nuevos "artefactos" con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público.
La IA marca una nueva y significativa fase en la relación de la humanidad con la tecnología, situándose en el centro de lo que el Papa Francisco ha descrito como un « cambio de época ». Su influencia se hace sentir a nivel global en una amplia gama de sectores, incluidas las relaciones personales, la educación, el trabajo, el arte, la sanidad, el derecho, la guerra y las relaciones internacionales.
La diferencia entre la IA y la inteligencia humana
A continuación, el documento del Vaticano explica la diferencia fundamental entre la inteligencia artificial y la inteligencia humana: « Sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, pero no la de pensar. Y, a diferencia de la máquina, el ser humano también tiene un cuerpo, sentimientos, relaciones con otras personas y, en definitiva, un alma, por lo que es consciente de lo que está bien y lo que está mal, a diferencia de la máquina, que no tiene en cuenta el aspecto moral de las cosas:
En este contexto, la inteligencia humana se muestra más claramente como una facultad que es parte integrante del modo en el que toda la persona se involucra en la realidad. Un auténtico involucrarse implica abarcar la totalidad del ser: espiritual, cognitivo, corporal y relacional… Una correcta concepción de la inteligencia humana, por tanto, no puede reducirse a la mera adquisición de hechos o a la capacidad de realizar determinadas tareas específicas; sino que implica la apertura de la persona a las cuestiones ultimas de la vida y refleja una orientación hacia lo Verdadero y lo Bueno. (Nota de SAN MIGUEL: es decir, Dios, cuya existencia no puede medirse con una computadora)...
En cambio, la IA, al carecer de cuerpo físico, se basa en el razonamiento computacional y el aprendizaje a partir de vastos conjuntos de datos que comprenden experiencias y conocimientos recogidos, en cualquier caso, por los seres humanos.
Por consiguiente, aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas.
Además, la inteligencia de una persona forma parte de una historia personal de formación intelectual y moral, que configura fundamentalmente la perspectiva de la persona individual, implicando las dimensiones físicas, emocionales, sociales, morales y espirituales de su vida. Dado que la IA no puede ofrecer esta amplitud de comprensión, los enfoques basados únicamente en esta tecnología, o que la asumen como la principal forma de interpretar el mundo, pueden conducir a « perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio..
Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la apertura del corazón humano a la verdad y al bien, sus capacidades, aunque parezcan infinitas, son incomparables con las capacidades humanas de captar la realidad. Se puede aprender tanto de una enfermedad, como de un abrazo de reconciliación e incluso de una simple puesta de sol. Tantas cosas que experimentamos como seres humanos nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede estar a la altura de estas y otras tantas experiencias presentes en nuestras vidas.
A la luz de esto, como observa el Papa Francisco, « el uso mismo de la palabra "inteligencia" » en referencia a la IA « es engañoso » y corre el riesgo de descuidar lo más valioso de la persona humana. Desde esta perspectiva, la IA no debe verse como una forma artificial de la inteligencia, sino como uno de sus productos…
El papel de la ética para guiar el uso de la IA
Vista como fruto de las potencialidades inscritas en la inteligencia humana], la investigación científica y el desarrollo de habilidades técnicas forman parte de la « colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible ». Al mismo tiempo, todos los logros científicos y tecnológicos son, en última instancia, dones de Dios. Por lo tanto, los seres humanos deben emplear siempre sus talentos con vistas al fin superior para el que Él se los ha concedido.
Sin embargo, no todas las innovaciones tecnológicas representan en sí mismas un auténtico progreso. Por ello, la Iglesia se opone especialmente a aquellas aplicaciones que atentan contra la santidad de la vida o la dignidad de la persona. Como cualquier otra empresa humana, el desarrollo tecnológico debe estar al servicio del individuo y contribuir a los esfuerzos para lograr « más justicia, mayor fraternidad y un más humano planteamiento en los problemas sociales », que « vale más que los progresos técnicos » (Gaudium et spes, n. 35).
Como cualquier producto del ingenio humano, la IA también puede orientarse hacia fines positivos o negativos. Cuando se utiliza de manera que respete la dignidad humana y promueva el bienestar de los individuos y las comunidades, puede contribuir favorablemente a la vocación humana. Sin embargo, como en todas las esferas en las que los seres humanos están llamados a tomar decisiones, la sombra del mal también se extiende aquí. Allí donde la libertad humana permite la posibilidad de elegir lo que es malo, la valoración moral de esta tecnología depende de cómo sea orientada y empleada.
Además de determinar las responsabilidades, se deben establecer los fines que se asignan a los sistemas de IA. Aunque estos puedan utilizar mecanismos de aprendizaje autónomo no supervisado y a veces seguir caminos que no pueden reconstruirse, en última instancia persiguen objetivos que les han sido asignados por los humanos y se rigen por procesos establecidos por quienes los diseñaron y programaron. Esto representa un desafío, ya que, a medida que los modelos de IA son cada vez más capaces de aprendizaje independiente, puede reducirse de hecho la posibilidad de ejercer un control sobre ellos para garantizar que dichas aplicaciones estén al servicio de los fines humanos. Esto plantea el problema crítico de cómo garantizar que los sistemas de IA se ordenen para el bien de las personas y no contra ellas.
Los peligros de la IA
Porque « la verdadera sabiduría supone el encuentro con la realidad », los progresos de la IA lanzan un desafío posterior: dado que es capaz de imitar con eficacia los trabajos de la inteligencia humana, ya no se puede dar por sentado si se está interactuando con un ser humano o con una máquina. Aunque la IA "generativa" es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona. Esta distinción se ve a menudo oscurecida por el lenguaje utilizado por los profesionales, que tiende a antropomorfizar (hacer semejante al hombre) la IA y difumina así la línea que separa lo humano de lo artificial.
En este contexto, es importante aclarar – aunque con frecuencia se recurre a una terminología antropomórfica – que ninguna aplicación de la IA es capaz de sentir de verdad empatía. Las emociones no se pueden reducir a expresiones faciales o frases generadas en respuesta a las peticiones del usuario; en cambio, las emociones se entienden en el modo como una persona, en su totalidad, se relaciona con el mundo y con su propia vida, con el cuerpo que juega un papel central. La empatía requiere la capacidad de escuchar, de reconocer la irreductible singularidad del otro, de acoger su alteridad y, también, de comprender el significado de sus silencios.
En contraste con la esfera de los juicios analíticos, donde predomina la IA, la verdadera empatía existe en la esfera relacional. Pone en tela de juicio la percepción y la apropiación de la experiencia del otro, al tiempo que mantiene la distinción de cada individuo. Aunque la IA puede simular respuestas empáticas, los sistemas artificiales no pueden reproducir la naturaleza personal y relacional de la empatía genuina.
Por lo tanto, siempre se debería evitar representar, en modo equivocado, a la IA como una persona, y hacerlo con fines fraudulentos constituye una grave violación ética que podría erosionar la confianza social. Del mismo modo, utilizar la IA para engañar en otros contextos – como la educación o las relaciones humanas, incluida la esfera de la sexualidad –debe considerarse inmoral y requiere una cuidadosa vigilancia para prevenir posibles daños, mantener la transparencia y garantizar la dignidad de todos.
En un mundo siempre más individualista, algunos recurren a la IA en busca de relaciones humanas profundas, de simple compañía o incluso de relaciones afectivas. Sin embargo, aun reconociendo que los seres humanos están hechos para experimentar relaciones auténticas, hay que reiterar que la IA solo puede simularlas…
Si en lugar de esas relaciones y de la vinculación con Dios se sustituyen las relaciones por los medios tecnológicos, corremos el riesgo de sustituir la auténtica relacionalidad por un simulacro sin vida (cf. Sal 160,20; Rm 1,22-23). En lugar de replegarnos en mundos artificiales, estamos llamados a implicarnos de manera seria y comprometida con la realidad, hasta el punto de identificarnos con los pobres y los que sufren, para consolar a quien está en el dolor y crear lazos de comunión con todos.
La IA y el mundo del trabajo
Otro ámbito en el que el impacto de la IA ya se deja sentir profundamente es el mundo del trabajo. Como en muchos otros ámbitos, está provocando transformaciones sustanciales en muchas profesiones con efectos diversos.
La IA está eliminando la necesidad de ciertas tareas que antes realizaban los seres humanos. Si se utiliza para sustituir a los trabajadores humanos en lugar de acompañarlos, existe « el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos »[126]. Además, a medida que la IA se hace más poderosa, también existe el peligro asociado de que el trabajo pierda su valor en el sistema económico… Esde este punto de vista, la IA debe ayudar al juicio humano y no sustituirlo.
Desinformación, deepfake y abusos
La IA es también un apoyo para la dignidad de la persona humana cuando se utiliza como ayuda para comprender hechos complejos o como guía hacia recursos válidos en la búsqueda de la verdad. Sin embargo, también existe el grave riesgo de que la IA genere contenidos manipulados e informaciones falsas que, al ser muy difícil de distinguir de los datos reales, pueden inducir fácilmente al engaño…
Las consecuencias de tales aberraciones e informaciones falsas pueden ser muy graves. Por ello, todos los que producen y utilizan la IA deben comprometerse con la veracidad y exactitud de las informaciones elaboradas por tales sistemas y difundidas al público.
Si, por un lado, la IA tiene el potencial latente de generar contenidos ficticios, por otro lado, existe el problema aún más preocupante de su uso intencionado para la manipulación. Esto puede ocurrir, por ejemplo, cuando un operador humano o una organización genera intencionadamente y difunde informaciones, como deepfakes de imágenes, de vídeos y de audio, para engañar o perjudicar. Un deepfake es una representación falsa de una persona que ha sido modificada o generada por un algoritmo de IA. El peligro que entrañan las deepfake es especialmente evidente cuando se utilizan para atacar o perjudicar a alguien: aunque las imágenes o los vídeos puedan ser artificiales en sí mismos, los daños que causan son reales, y dejan « profundas cicatrices en el corazón de quienes lo sufren », que se sienten « heridos en su dignidad humana ».
En general, al distorsionar « la relación con los demás y la realidad »[160], los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. Esto requiere una regulación cuidadosa, ya que la desinformación, especialmente a través de medios controlados o influenciados por la IA, puede propagarse involuntariamente, alimentando la polarización política y el descontento social.
De hecho, cuando la sociedad se vuelve indiferente a la verdad, diversos grupos construyen sus propias versiones de los "hechos", con lo que la « conexiones mutuas y las interdependencias »[161], que están en la base del vivir social, se debilitan. Porque las deepfake inducen a poner todo en duda y los contenidos falsos generados por la IA erosionan la confianza en lo que se ve y se oye, la polarización y el conflicto no harán sino crecer.
Un engaño tan generalizado no es un problema secundario: golpea el corazón de la humanidad, demoliendo esa confianza fundamental sobre la que se construyen las sociedades. (Nota de SAN MIGUEL: Recordemos que las palabras « crédito social » también significan confianza, la confianza de que podemos convivir en sociedad sin temer a nuestro vecino).
IA, privacidad y control
Aunque puedan existir formas legítimas y correctas de utilizar la IA en conformidad con la dignidad humana y el bien común, no es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos. El riesgo de un exceso de vigilancia debe ser supervisado por organismos de control adecuados, con el fin de garantizar la transparencia y la responsabilidad pública. Los responsables de dicha vigilancia nunca deberían exceder su autoridad, que siempre debe estar a favor de la dignidad y la libertad de cada persona como base esencial de una sociedad justa y a medida del hombre.
De hecho, « el respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos ». Esto se aplica especialmente a los usos de la IA relacionados con la evaluación de individuos o grupos sobre la base de su comportamiento, características o historial, una práctica conocida como "crédito social". (Nota de SAN MIGUEL: por supuesto, no nos referimos aquí al crédito social de Louis Even y del ingeniero escocés Douglas, sino al infame sistema chino de « crédito social », que otorga una calificación o puntos a los ciudadanos en función de si cumplen o no las normas del gobierno comunista.)
La IA y la guerra
Aunque las capacidades analíticas de la IA podrían utilizarse para ayudar a las naciones a buscar la paz y garantizar la seguridad, el « uso bélico de la inteligencia artificial » puede ser muy problemático… La facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos.
En particular, los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son « gran motivo de preocupación ética », porque carecen de « la exclusiva capacidad humana de juicio moral y de decisión ética. Por estos motivos, el Papa Francisco ha invitado con urgencia a repensar el desarrollo de tales armas para prohibir su uso, « empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano ».
Dado que la distancia entre maquinas capaces de matar con precisión de modo autónomo y otras capaces de destrucción masiva es corta, algunos investigadores que trabajan en el campo de la IA han expresado la preocupación que dicha tecnología represente un "riesgo existencial", siendo ella capaz de actuar en modos que podrían amenazar la supervivencia de la humanidad o de regiones enteras… La IA, como cualquier otro instrumento, es una extensión del poder de la humanidad, y aunque no podemos predecir todo lo que será capaz de lograr, por desgracia es bien sabido lo que los seres humanos son capaces de hacer. Las atrocidades ya cometidas a lo largo de la historia humana bastan para suscitar una profunda preocupación por los posibles abusos de la IA.
La IA y la relación de la humanidad con Dios
Dentro de algunos círculos de científicos y futuristas, se respira un cierto optimismo sobre el potencial de la inteligencia artificial general (AGI), una forma hipotética de IA que podría alcanzar o superar a la inteligencia humana, capaz de lograr avances más allá de lo imaginable. Algunos especulan incluso con que la AGI sería capaz de alcanzar capacidades sobrehumanas. A medida que la sociedad se aleja del vínculo con lo trascendente, algunos sienten la tentación de recurrir a la IA en busca de sentido o de plenitud, deseos que sólo pueden encontrar su verdadera satisfacción en la comunión con Dios.
Sin embargo, la presunción de sustituir a Dios con una obra de las propias manos es idolatría, contra la que advierte la Sagrada Escritura (por ej. Ex 20,4; 32,1-5; 34,17). Además, la IA puede ser incluso más seductora que los ídolos tradicionales: de hecho, a diferencia de estos últimos, que « tienen boca, y no hablan, tienen ojos, y no ven, tienen orejas, y no oyen » (Sal 115,5-6), la IA puede "hablar", o, al menos, dar la ilusión de hacerlo (cf. Ap 13,15). (Nota de SAN MIGUEL: este versículo del Apocalipsis hace referencia a la « marca de la bestia », con la que no se podrá comprar ni vender.)
La IA no puede tener muchas de las capacidades que son específicas de la vida humana, y también es falible. De ahí que al buscar en ella un "Otro" más grande con quien compartir la propia existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios… Aunque puede ponerse al servicio de la humanidad y contribuir al bien común, la IA sigue siendo un producto de manos humanas, lo que conlleva « la destreza y la fantasía de un hombre » (Hch 17,29), al que nunca debe atribuirse un valor desproporcionado.
Reflexión final
La cuestión esencial y fundamental » permanece siempre la de « si el hombre, en cuanto hombre, en el contexto de este progreso, se hace de veras mejor, es decir, más maduro espiritualmente, más consciente de la dignidad de su humanidad, más responsable, más abierto a los demás, particularmente a los más necesitados y a los más débiles, más disponible a dar y prestar ayuda a todos » (Juan Pablo II, Redemptor hominis, n. 15)
Es decisivo, por consiguiente, saber valorar críticamente las distintas aplicaciones en los contextos particulares, con el fin de determinar si estas promueven, o no, la dignidad y la vocación humana, y el bien común. Como ocurre con muchas tecnologías, los efectos de las distintas aplicaciones de la IA no siempre son predecibles en su inicio.
En la medida en que estas aplicaciones y su impacto social se hagan más evidentes, se deberá empezar a proporcionar una retroalimentación adecuada a todos los niveles de la sociedad, de acuerdo con el principio de subsidiariedad. Es importante que los usuarios individuales, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y las organizaciones internacionales, cada uno a su nivel de competencia, se comprometan en garantizar que el uso de la IA sea adecuado para el bien de todos.
La IA sólo debe utilizarse como una herramienta complementaria de la inteligencia humana y no sustituir su riqueza. Cultivar aquellos aspectos de la vida humana que van más allá del cálculo es de crucial importancia para preservar una « auténtica humanidad », que « parece habitar en medio de la civilización tecnológica, casi imperceptiblemente, como la niebla que se filtra bajo la puerta cerrada ».
La verdadera sabiduría
Hoy, la vasta extensión del conocimiento es accesible en formas que habrían maravillado a las generaciones pasadas; sin embargo, para impedir que los avances de la ciencia siguen siendo humana y espiritualmente estériles, hay que ir más allá de la mera acumulación de datos y aspirar a la verdadera sabiduría.
Esta sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA: « Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo ». Esta « sabiduría del corazón » es « esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias ». La humanidad no puede « esperar esta sabiduría de las máquinas », en cuanto ella « se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cfr. Sab 6,12-16) »
En un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que « permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido ».
Porque « lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen », el modo como se utilice la IA « para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad ». Esta sabiduría puede iluminar y guiar un uso de dicha tecnología centrado en el ser humano, que como tal puede ayudar a promover el bien común, a cuidar de la « casa común », a avanzar en la búsqueda de la verdad, apoyar el desarrollo humano integral, favorecer la solidaridad y la fraternidad humana, para luego conducir a la humanidad a su fin último: la comunión feliz y plena con Dios.v
El Sumo Pontífice Francisco, en la Audiencia concedida el día 14 de enero de 2025 a los suscritos Prefectos y Secretarios del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, ha aprobado la presente Nota y ha ordenado la publicación.
Dado en Roma, ante las sedes del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, el 28 de enero de 2025, Memoria Litúrgica de santo Tomás de Aquino, Doctor de la Iglesia.
