Foto con celular al Papa Francisco. Foto: Vatican Media

Papa habla sobre inteligencia artificial y exhorta a la cautela con uso de algoritmos

Discurso a los participantes en el encuentro de los «Minerva dialogues» promovido por el Dicasterio para la Cultura y la Educación de la Santa Sede.

Print Friendly, PDF & Email
Share this Entry

(ZENIT Noticias / Ciudad del Vaticano, 27.03.2023).- El Dicasterio e la Santa Sede que se ocupa de la educación y la cultura organizó un encuentro llamado «Diálogos Minerva» en Roma. El Papa recibió la mañana del lunes 27 a los participantes. Ofrecemos el texto del discurso en lengua española.

***

Bienvenidos a todos los que estáis reunidos en Roma con ocasión de vuestro encuentro anual. En él se reúnen expertos del mundo de la tecnología –científicos, ingenieros, empresarios, juristas y filósofos– junto con representantes de la Iglesia –funcionarios de la Curia, teólogos y moralistas– con el objetivo de fomentar una mayor conciencia y consideración del impacto social y cultural de las tecnologías digitales, especialmente de la inteligencia artificial.

Aprecio mucho este camino de diálogo que, en los últimos años, nos ha permitido compartir contribuciones y puntos de vista, y beneficiarnos de la sabiduría de los demás. Su presencia atestigua su compromiso de garantizar un debate mundial serio e integrador sobre el uso responsable de estas tecnologías, un debate abierto a los valores religiosos. Estoy convencido de que el diálogo entre creyentes y no creyentes sobre las cuestiones fundamentales de la ética, la ciencia y el arte, y sobre la búsqueda del sentido de la vida, es un camino hacia la construcción de la paz y el desarrollo humano integral.

La tecnología es de gran ayuda para la humanidad. Pensemos en los innumerables avances en los campos de la medicina, la ingeniería y las comunicaciones (cf. Encíclica Laudato si’, 102). Y al mismo tiempo que reconocemos los beneficios de la ciencia y la tecnología, vemos en ellas una prueba de la creatividad del ser humano y también de la nobleza de su vocación a participar responsablemente en la acción creadora de Dios (cf. ibíd., 131).

Desde esta perspectiva, creo que el desarrollo de la inteligencia artificial y del aprendizaje automático tiene el potencial de aportar una contribución beneficiosa al futuro de la humanidad, no podemos descartarlo.

Sin embargo, estoy seguro de que este potencial sólo se hará realidad si existe una voluntad coherente por parte de quienes desarrollan las tecnologías de actuar de forma ética y responsable. Me anima el compromiso de tantos que trabajan en estos campos para garantizar que la tecnología se centre en el ser humano, se base éticamente en el diseño y se centre en el bien. Me complace que haya surgido un consenso para que los procesos de desarrollo respeten valores como la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad. También celebro los esfuerzos de las organizaciones internacionales por regular estas tecnologías de modo que promuevan un auténtico progreso, es decir, que contribuyan a dejar un mundo mejor y una calidad de vida integralmente superior (cf. ibíd., 194).

No será fácil llegar a un acuerdo en estos ámbitos. De hecho, «el inmenso crecimiento tecnológico no ha ido acompañado de un desarrollo del ser humano en términos de responsabilidad, valores y conciencia» (ibíd., 105). Además, el mundo actual se caracteriza por una gran pluralidad de sistemas políticos, culturas, tradiciones, concepciones filosóficas y éticas y creencias religiosas. Las discusiones están cada vez más polarizadas y, en ausencia de confianza y de una visión compartida de lo que hace que la vida merezca la pena, los debates públicos corren el riesgo de ser polémicos e inconclusos.

Sólo un diálogo inclusivo, en el que las personas busquen juntas la verdad, puede propiciar un verdadero consenso; y esto puede ocurrir si compartimos la convicción de que «en la realidad misma del ser humano y de la sociedad […] hay un conjunto de estructuras básicas que sostienen su desarrollo y supervivencia» (Enc. Fratelli tutti, 212). El valor fundamental que debemos reconocer y promover es el de la dignidad de la persona humana (cf. ibid., 213). Por tanto, os invito a que, en vuestras deliberaciones, hagáis de la dignidad intrínseca de todo hombre y mujer el criterio clave para evaluar las tecnologías emergentes, que revelan su positividad ética en la medida en que contribuyen a manifestar esa dignidad y a aumentar su expresión, en todos los niveles de la vida humana.

Me preocupa que hasta ahora las pruebas parezcan sugerir que las tecnologías digitales han servido para aumentar las desigualdades en el mundo. No sólo las diferencias de riqueza material, que son importantes, sino también las diferencias de acceso a la influencia política y social. Nos preguntamos: ¿son nuestras instituciones nacionales e internacionales capaces de exigir responsabilidades a las empresas tecnológicas por el impacto social y cultural de sus productos? ¿Existe el riesgo de que el aumento de la desigualdad socave nuestro sentido de la solidaridad humana y social? ¿Podríamos perder nuestro sentido de destino compartido? En realidad, nuestro objetivo es que el crecimiento de la innovación científica y tecnológica vaya acompañado de una mayor igualdad e inclusión social (véase el videomensaje en la Conferencia TED de Vancouver, 26 de abril de 2017).

Este problema de desigualdad puede verse agravado por una falsa concepción de la meritocracia que socava la noción de dignidad humana. El reconocimiento y la recompensa del mérito y el esfuerzo humanos tienen una base, pero se corre el riesgo de concebir la ventaja económica de unos pocos como ganada o merecida, mientras que la pobreza de muchos se considera, en cierto sentido, culpa suya. Este enfoque subestima las desigualdades de partida entre las personas en términos de riqueza, oportunidades educativas y vínculos sociales, y trata el privilegio y la ventaja como logros personales. En consecuencia –en términos esquemáticos– si la pobreza es culpa de los pobres, los ricos están exentos de hacer algo al respecto (cf. Discurso al mundo del trabajo, Génova, 27 de mayo de 2017).

El concepto de dignidad humana –este es el núcleo– requiere que reconozcamos y respetemos el hecho de que el valor fundamental de una persona no puede medirse por un conjunto de datos. En los procesos de toma de decisiones sociales y económicas, debemos ser cautelosos a la hora de confiar juicios a algoritmos que procesan datos recopilados, a menudo subrepticiamente, sobre las personas y sus características y comportamientos pasadosEsos datos pueden estar contaminados por prejuicios sociales e ideas preconcebidas. Sobre todo, porque el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedadNo podemos permitir que los algoritmos limiten o condicionen el respeto de la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio del individuo.

Queridos amigos, quisiera concluir reafirmando mi convicción de que sólo formas de diálogo verdaderamente integradoras pueden discernir sabiamente cómo poner la inteligencia artificial y las tecnologías digitales al servicio de la familia humana.

La historia bíblica de la Torre de Babel (cf. Gn 11) se ha utilizado a menudo para advertir contra las ambiciones desmedidas de la ciencia y la tecnología. En realidad, la Escritura nos previene contra la soberbia de querer «tocar el cielo» (v. 4), es decir, asir y apoderarse del horizonte de valores que identifica y garantiza nuestra dignidad humana. Y siempre, cuando hay esto, acabamos en una grave injusticia en la propia sociedad. En el mito de la Torre de Babel, hacer un ladrillo es difícil: hacer el barro, la paja, amontonarlo, luego cocerlo… Cuando caía un ladrillo era una gran pérdida, se quejaban mucho: ‘Hemos perdido un ladrillo’. Si caía un obrero, nadie decía nada. Esto debe hacernos pensar: ¿qué es más importante? ¿El ladrillo o el trabajador o la trabajadora?

Esta es una distinción que debe hacernos pensar. Y después de la Torre de Babel, la posterior creación de lenguas diferentes se convierte, como toda intervención de Dios, en una nueva posibilidad. Nos invita a ver la diferencia y la diversidad como una riqueza, porque la uniformidad no deja crecer, la uniformidad impone. Sólo una cierta uniformidad disciplinaria es buena –puede serlo–, pero la uniformidad impuesta no cuenta. La falta de diversidad es una falta de riqueza, porque la diversidad nos obliga a aprender juntos unos de otros y a redescubrir con humildad el auténtico sentido y alcance de nuestra dignidad humana. No olvidemos que las diferencias estimulan la creatividad, «crean tensión, y en la resolución de la tensión consiste el progreso de la humanidad» (Enc. Fratelli tutti, 203), cuando las tensiones se resuelven en un plano superior, que no aniquila los polos en tensión sino que los hace madurar.

Os deseo lo mejor en vuestros diálogos y os agradezco vuestro compromiso de escuchar y de crecer en la comprensión de las aportaciones de los demás. Os bendigo y os pido por favor que recéis por mí. Gracias.

Traducción del original en lengua italiana realizada por el director editorial de ZENIT.

Print Friendly, PDF & Email
Share this Entry

Redacción zenit

Apoya ZENIT

Si este artículo le ha gustado puede apoyar a ZENIT con una donación