Interés de la Iglesia católica por sumarse a un diálogo con la ciencia y la filosofía
Encíclica Magnifica humanitas: peligros y ventajas de la IA
El pasado lunes 25 de mayo se publicó la primera encíclica del papa León XIV, titulada Magnifica humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial (https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html).
En opinión de Miguel Alberto Zapata Clavería, académico de la Facultad de Filosofía y Letras de la UNAM y especialista en teoría del conocimiento y filosofía de la ciencia, dicho documento muestra el interés creciente de la Iglesia católica por sumarse a un diálogo con la ciencia y la filosofía sobre un asunto que nos concierne a todos los humanos.
“Por lo demás, se nota que el papa León XIV conoce muy bien algunos de los planteamientos desarrollados en los últimos años alrededor de la tecnología y la inteligencia artificial (IA). Por eso creo que todos los integrantes de la comunidad académica de la Universidad deberíamos recibir sus palabras con seriedad”, añadió.
Regulación legal
En un primer momento, la encíclica Magnifica humanitas señala los riesgos que supone para la humanidad el mal uso de la inteligencia artificial y habla de la necesidad de que ésta sea sometida no sólo a códigos de ética, sino también a una regulación legal.
Al respecto, Zapata Clavería comentó: “Sin duda, esta encíclica es muy crítica con el poder tecnocrático, representado por los nuevos tecnoligarcas, como Peter Thiel, cuya empresa Palantir Technologies Inc. ha sido contratada por el Pentágono estadunidense para impulsar su programa militar central. No olvidemos que el mismo Thiel ha expresado que cualquier figura o institución que intente frenar el avance tecnológico o imponerle regulaciones representa al Anticristo, y que la innovación tiene que quedar en manos de los tecnócratas”.
Recientemente, la UNAM creó el Consejo Coordinador de Inteligencia Artificial (CCOIA), cuyo objetivo es articular todos los esfuerzos que se realizan en esta casa de estudios para atender los retos que conlleva el uso de esta nueva herramienta tecnológica.
“Organismos como el CCOIA son bienvenidos porque, en torno a nuestra preocupación por la inteligencia artificial (IA), hacen converger diferentes miradas desde distintas perspectivas. Si uno ve la cartelera de la UNAM –y también de otras universidades–, está plagada de cursos, talleres, ponencias y conferencias que la abordan. O sea, se está construyendo mucho conocimiento alrededor de ella. Y que la UNAM se haya dado a la tarea de impulsar un organismo que escuche esas reflexiones y genere conclusiones en relación con los usos más adecuados que podemos darle a la IA, especialmente en el marco de su propia tarea docente, es una muy buena noticia. Ahora lo que tenemos que ver es si las conclusiones del CCOIA tendrán un efecto normativo o si se quedarán como meras sugerencias que después podrá o no asumir cada dependencia universitaria”, manifestó Miguel Alberto Zapata Clavería.
No es neutral
Una de las tesis más potentes que expone León XIV en la encíclica Magnifica humanitas y que se vincula con la filosofía de la tecnología es que las innovaciones tecnológicas, incluida la inteligencia artificial, no son moralmente neutrales.
“Quienes nos dedicamos al estudio de la tecnología llevamos años defendiendo que ésta no es sólo un medio que puede ser utilizado para el bien o para el mal, independientemente de su diseño. Con autores clásicos como Langdon Winner aprendimos que debemos desechar la concepción axiológicamente neutral de la tecnología, y considerar que en su propio diseño ya se generan las condiciones de posibilidad de construcción de una sociedad en la que puede haber o no ciertas asimetrías; es decir, la tecnología está diseñada a partir de ciertos valores que implican la posibilidad de construcción de un mundo social determinado. Así, me parece que la encíclica Magnifica humanitas sigue esta línea de reflexión y la acepta”, indicó.
Principio de subsidiariedad
En varias partes, la encíclica Magnifica humanitas apela al principio de subsidiariedad, según el cual “aquello que pueden hacer las personas, las familias, las comunidades locales y los cuerpos intermedios no debe ser absorbido por instancias superiores”.
“Esto remite a la urgencia de incorporar en la toma de decisiones relacionadas con la inteligencia artificial a agentes de nivel intermedio (académicos, científicos, empresarios, trabajadores, educadores, legisladores…) para evitar la dominación de los agentes e instancias de carácter tecnocrático. Ahora bien, de alguna forma, el papá León XIV sí se pronuncia a favor de que el Estado intervenga en la regulación de esta herramienta tecnológica… En todo caso, yo creo que aquí, en la UNAM, podemos darle la razón y aceptar la responsabilidad que tenemos a la hora de impulsar organismos y programas que sirvan para la reflexión, la deliberación y la orientación compartidas de un sistema –la IA– tan importante para nuestra autocomprensión como humanos, pero también para la configuración del orden social”, dijo Zapata Clavería.
Sin duda, es muy crítica con el poder tecnocrático representado por los nuevos tecnoligarcas como Peter Thiel”
Miguel Alberto Zapata Clavería
Facultad de Filosofía y Letras de la UNAM
Bien universal
A pesar de que en la encíclica Magnifica humanitas nos advierte que la IA puede acarrearnos problemas de toda índole si no la utilizamos bien, el papa León XIV no la sataniza ni la muestra como un instrumento del mal ni mucho menos, sino, por lo contrario, la pondera como una magnífica herramienta tecnológica que puede beneficiar a la humanidad entera.
“Habrá quien vea en esta encíclica un texto de carácter tecnofóbico, uno más. Pero yo no estaría de acuerdo con esa visión. Me parece que, de hecho, el papa León XIV es bastante sensato en todo lo que dice en ella, incluso en términos ontológicos. Ve la inteligencia artificial como algo desprovisto de cuerpo y, por lo tanto, de experiencia, y nos invita a no caer en ingenuidades ontológicas que de alguna forma establecen semejanzas simplistas o radicales entre la inteligencia humana y la inteligencia maquínica. Así pues, yo diría que la encíclica Magnifica humanitas pasa a formar parte del pensamiento crítico sobre la tecnología, por supuesto, con principios y compromisos católicos”.
El académico también menciona que es interesante ver cómo el papa León XIV se desmarca de cualquier compromiso tecnofóbico al apuntar explícitamente que la tecnología permite hacer copartícipe al humano de la creación divina y que es uno más de los bienes universales.
“La tecnología como medio transformador del mundo no sólo debería estar al servicio de toda la humanidad, sino también estar orientada por toda la humanidad. De hecho, esto que digo en términos muy abstractos se concretiza con la idea de que habría que velar porque la inteligencia artificial esté al alcance de todos, pero no de la manera en la que hoy en día lo está, orientada por una finalidad volcada en la noción de eficiencia, en la instrumentalización, en el acaparamiento de la información con fines bélicos… En suma, lo que el papa León XIV defiende en la encíclica Magnifica humanitas es desarrollar una inteligencia artificial, sin caer en ingenuidades ontológicas y, además, haciéndonos partícipes en su propio diseño y en su propia orientación, para dirigirla hacia fines realmente humanos, hacia la mejora de lo humano. Una mejora entendida no en términos transhumanistas y poshumanistas, sino de la promoción de la justicia social”, concluyó.
En el párrafo 213 de la encíclica Magnifica humanitas, el papa León XIV cita un pasaje de El señor de los anillos, de J. R. R Tolkien, para reflexionar acerca de la responsabilidad moral que nos compete a todos los humanos frente a los desafíos del mundo actual y, en específico, de la inteligencia artificial.
Gandalf, en ese pasaje, le dice a Frodo: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos y dejando a los que vendrán después una tierra limpia para la labranza”.
La cita del papa León XIV no es inocente: va dirigida, con puntería certera, contra Peter Thiel, quien se apropió de la palabra palantir –que alude a una “piedra vidente” del universo de la novela de Tolkien, creada por los elfos como medio de comunicación a distancia u observación de lugares lejanos y acontecimientos futuros– para nombrar una de sus empresas: Palantir Technologies Inc.
“Esta referencia literaria tiene que ver con la necesidad de Gandalf de sacar el palantir, que bien podemos pensar como la representación de la inteligencia artificial, de las manos de Sauron, quien lo utiliza para el espionaje y el control de la sociedad, y lo pone al servicio de la guerra, y llevarlo a las manos de Aragorn, quien representa al conjunto de la humanidad y no va a claudicar ante el poder y el control bélico de ese objeto tan poderoso”, declaró Miguel Alberto Zapata Clavería.