La apuesta de la UNAM coincide con una visión humanista frente a la IA

La carta encíclica Magnifica humanitas, promulgada por el Papa León XIV el pasado 15 de mayo, causó revuelo en diversos sectores de la sociedad. La academia no fue la excepción, al abordar temas que hoy corresponden a universidades, gobiernos y organismos internacionales.

La epístola actualiza la mirada de la Iglesia frente a las nuevas configuraciones del mundo contemporáneo, denominadas una vez más bajo el concepto de las res novae (nuevas realidades), pero esta ocasión con un foco absoluto sobre el auge de la digitalización, la robótica y la inteligencia artificial (IA).

Pablo Pruneda Gross, coordinador general del Consejo Coordinador de Inteligencia Artificial (CCOIA) de la UNAM, comentó que existe una coincidencia importante entre varios de los planteamientos de la encíclica y la visión humanista que impulsa la Universidad respecto al desarrollo tecnológico.

Uno de los puntos centrales de Magnifica humanitas es la advertencia sobre la concentración del desarrollo tecnológico en manos de unas cuantas corporaciones privadas.

El también maestro en oposición estuvo de acuerdo en esta afirmación: “Las últimas expresiones de la inteligencia artificial, a diferencia de otros grandes descubrimientos tecnológicos de la humanidad, se están desarrollando en muy pocas empresas privadas. Los desarrollos de ChatGPT, Claude, Gemini, Grok y otros modelos responden a visiones empresariales y comerciales muy específicas”.

En este sentido detalló que “el Sur global queda marginado de esta expresión cultural porque no participó ni en la aportación de los datos que preentrenaron a esos modelos, ni en la construcción de los algoritmos y de toda la arquitectura que dio lugar a estas tecnologías. Entonces, en el mundo estamos usando mecanismos de avanzada, con una gran capacidad de potenciación de las habilidades humanas, pero que tienen, dice la encíclica, un sesgo a partir de su origen”.

La encíclica describe, sin nombrarlo así, un fenómeno que el economista Yanis Varoufakis bautizó como tecnofeudalismo: la concentración de datos, algoritmos e infraestructura digital en pocas manos. El especialista reconoció la preocupación de fondo, pero advirtió que el fenómeno exige categorías propias.

“El concepto tecnofeudalismo no me encanta porque nos remite a realidades históricas que no son precisas. Estamos frente a un fenómeno único con características particulares que no hay que ni endiosar ni satanizar”.

Fue contundente al afirmar que si bien la IA es una tecnología que puede llevar al florecimiento de la especie humana, también puede conducir a su extinción. Por lo que más vale ubicarlo en una perspectiva muy clara de sus riesgos, pero también de las enormes oportunidades que nos brinda.

Otro de los aspectos que destaca Magnifica humanitas es la necesidad de evitar que decisiones fundamentales para las personas queden completamente en manos de sistemas automatizados.

Desde la perspectiva jurídica, Pruneda Gross coincide plenamente. “Debe existir siempre una decisión humana en última instancia cuando se trata de asuntos críticos para las personas”, sostuvo.

Recordó que la regulación europea identifica como sistemas de alto riesgo aquellos que participan en decisiones relacionadas con otorgamiento de créditos, contratación laboral o impartición de justicia.

Apuntó que estas tecnologías lo que hacen es generar aterrizajes de criterios de manera muy eficiente, por ejemplo, el gran debate de la justicia. “La pregunta es si en la justicia debemos usar este tipo de sistemas para sancionar, condenar a un ser humano. Y entonces la visión es que no, que debe haber siempre una visión humana, una decisión humana en última instancia que responda frente a la toma de estas decisiones críticas para el propio ser humano”.

La encíclica también cuestiona la idea de que la eficiencia tecnológica deba convertirse en el criterio dominante para evaluar el progreso. Según Pruneda Gross, existe el riesgo de confundir el valor de una persona con su capacidad productiva. “Estamos confundiendo la virtud humana con la eficiencia y con la capacidad de generar riqueza. El objetivo final tendría que ser alcanzar la felicidad, no únicamente la riqueza”.

En el caso de la Universidad, precisó, la responsabilidad consiste en ofrecer herramientas que permitan el desarrollo profesional de los estudiantes sin perder de vista la formación ética y humanista.

“La Universidad tiene una promesa implícita con su alumnado: proporcionar las herramientas para su desarrollo personal, humano y también laboral. Ahí entran los valores universitarios, los derechos humanos y la formación ética”.

Para el coordinador del CCOIA, ninguna disciplina por sí sola puede responder a los desafíos de la inteligencia artificial. “La interdisciplina es el elemento fundamental, pues todas las áreas del conocimiento tienen algo que aportar”, afirmó.