La IA obliga a replantear qué significa enseñar, investigar y crear tecnología

El futuro de la computación entrelazada con la inteligencia artificial (IA) debe construirse con una mirada crítica, plural y siempre situada, no desde los sueños de una superinteligencia abstracta, sino desde soluciones concretas con impacto social y de servicio del bien común.

Así lo expuso Ramsés Mena Chávez, director del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS), al intervenir en la XI Reunión Nacional de la Academia Mexicana de Computación (Amexcomp), con sede en la UNAM.

Hoy, cuando conceptos como la programación, que durante décadas fue el eje central de la formación y la práctica profesional de la computación, parece enfrentarse a su propia obsolescencia ante los avances de la automatización y el aprendizaje mecanizado, encapsulado en la inteligencia artificial; entonces se vuelve necesario replantear qué significa enseñar, investigar y crear tecnología.

“Más allá de las herramientas o los lenguajes, la pregunta de fondo es cómo articular el desarrollo tecnológico con una reflexión ética, cómo formar científicas y científicos que comprendan no sólo la manera en que funcionan los sistemas, sino para quién y con qué consecuencias los construimos”, resaltó.

En el auditorio del IIMAS, Mena Chávez, dejó en claro que “el aprendizaje automático, es poderoso, pero no es sinónimo de sabiduría”.

“Nuestra apuesta debe ser entonces por una inteligencia compartida, que no se limite a automatizar tareas, sino que potencie la interacción entre personas y sistemas, que aprenda de múltiples perspectivas y que construya soluciones al servicio del bien común”, propuso.

Añadió que la historia y el devenir actual de la IA nos han enseñado algo esencial. No se trata de crear sistemas totalmente desvinculados del humano, sino de desarrollar tecnologías interdependientes, diseñadas desde una corresponsabilidad y el diálogo entre disciplinas. La noción de una inteligencia artificial autónoma, ajena a la participación humana, se aleja de cualquier horizonte ético y realista.

¿Riesgos?

En su oportunidad, Eduardo Morales Manzanares, presidente de Amexcomp, reiteró la importancia de la computación como un área transversal. “Está en todos lados, nos es difícil imaginar la vida sin un dispositivo computacional que no esté a nuestro alcance y lo mismo está pasando con estos modelos de la IA, principalmente generativos que se hicieron públicos y en donde la gente los usa de manera masiva y se están incorporando, digamos, a la sociedad”.

No obstante, atajó, “aunque yo trabajo en el área, sólo puede traer beneficios si lo hacemos bien, y me parece que como comunidad debemos reaccionar, tenemos una responsabilidad, no sólo por las ventajas que puede traer, sino también por los daños que puede tener”.

“La gente está usando estos sistemas, sin ninguna guía clara de cómo hacerlo, ni sobre las posibles consecuencias o peligros potenciales que tienen. Entonces se habla de mejoras en la educación, en la salud, pero hay riesgos muy claros de que esta tecnología pueda aumentar la brecha entre gente con recursos y gente sin recursos, que posiblemente no tenga internet o celular, o una computadora, y en regiones donde predominantemente hay lenguas indígenas, sólo por mencionar algunas situaciones”, apuntó.

Añadió que también hay una preocupación de cómo está penetrando en los adolescentes, y hay evidencias, aseveró, de que pueden disminuir sus habilidades cognitivas y sociales.

“Están confiando plenamente en estos sistemas, se están creando vínculos emocionales y han aumentado, desafortunadamente, casos de gente que atenta contra sí misma porque estuvo consultando estos sistemas”, advirtió.

Ante esto, concluyó, tenemos que coordinarnos, hacer acciones, dialogar con el gobierno y la sociedad. Proponemos promover foros de discusión, realizar intercambios de experiencias, crear material, cursos en línea sobre el uso, retos y los riesgos de esta tecnología.