Ciudad de México, 4 de diciembre de 2023.- En la actualidad, la inteligencia artificial (IA) se ha convertido en una herramienta poderosa en varios ámbitos de la sociedad. Sin embargo, su crecimiento vertiginoso plantea interrogantes sobre su aplicación responsable y ética. A medida que la IA se integra en nuestras vidas, surgen desafíos en relación con la creación de sistemas confiables y justos.
La Dra. Lourdes Martínez Villaseñor, jefa de academia de la Maestría en Ciencia de Datos de la Universidad Panamericana, es consciente de eso y por ello promueve la aplicación responsable y ética de la inteligencia artificial. Es precisamente por las acciones que ha tomado en pro de ello, que ha sido reconocida como líder de IA responsable del año en Norte América.
Servicio a la comunidad científica y académica
Tal reconocimiento, explica la doctora, le fue otorgado debido a su trayectoria desde el 2014 para impulsar la ética de la IA en diferentes actividades: publicaciones, organización y participación en foros nacionales e internacionales, y como docente.
En los últimos dos años, ha dirigido sesiones especiales en la Conferencia Internacional IJCNN relacionadas con los desafíos éticos de los sistemas de IA para la atención médica y la medicina. Además, en 2023 fue parte del comité editor en un número de la revista de divulgación científica de la Sociedad Mexicana de Inteligencia Artificial Komputer Sapiens dedicado a ética en IA.
En relación con las actividades de servicio a la comunidad científica, también ha fomentado la inclusión de tres paneles en estas jornadas de Ética en Inteligencia Artificial en la organización de congresos nacionales e internacionales (COMIA y MICAI) y ha participado como experta en estos temas de manera continua.
De igual modo, en la Universidad Panamericana es responsable y docente de las materias de Ética de la IA y Ética para la ciencia de datos a nivel licenciatura, maestría y doctorado.
Sistemas de IA confiables en la salud
Actualmente, hay una gran entusiasmo y expectativas por las tecnologías de inteligencia artificial. Empero, están habiendo grandes consecuencias negativas.
Al hablar sobre los desafíos que ha enfrentado en su carrera profesional en relación con la creación de sistemas de IA confiables, accesibles, inclusivos e imparciales, la doctora apunta que los principales retos son en relación a la privacidad, seguridad, justicia, transparencia y explicabilidad, responsabilidad, control humano y promoción de los valores humanos.
“Las aplicaciones en el ámbito del cuidado de la salud son muy críticas ya que está en juego la vida de las personas. En este dominio, el diseño ético de los sistemas inteligentes es por supuesto obligatorio y especialmente relevante. Para ello, es vital cuidar los principios éticos en la aplicación de sistemas inteligentes”, señala.
Igualmente añade: “La comunidad médica es muy cautelosa, y con razón, sobre los beneficios de la IA para la medicina, por lo que ha sido un viaje de siete años para construir puentes que los involucren en el desarrollo de los sistemas para ganarse su confianza y su adopción”.
Igualmente, señala que un reto importante es aterrizar a la práctica los principios, guías de buenas prácticas y reglamentos y leyes internacionales. “Este es todavía un problema abierto que es difícil de abordar en cada caso, y se vuelve más complicado dada la aparición de las tecnologías de IA generativa como Chat GTP que tiene modelos extremadamente complejos”.
Trabajo en conjunto
La doctora manifiesta que la IA está transformando todos los sectores de la sociedad. A decir verdad, impulsa la eficiencia operativa mediante la automatización de tareas repetitivas y el análisis avanzado de datos.
No obstante, expresa que “el problema es que no hay manera de garantizar que los beneficios de la IA sean extendidos de manera equitativa y justa en el mundo ya que es un asunto multifactorial que atañe a todo el ecosistema”.
De esta modo, apunta: “Se debe trabajar desde todos los sectores (academia, gobierno y empresa) para concientizar a todos de la necesidad de tomar en cuenta la dimensión ética, hacer leyes y compromisos de autogobierno e inclusión. Para cada sistema inteligente se deben evaluar los impactos a los derechos humanos y a la dignidad de la persona con todos los involucrados y de manera interdisciplinaria”.
Su labor en otros ámbitos
Otro rol importante que tiene la académica, consiste en formar parte del Comité Técnico Asesor del Programa de Resultados Electorales Preliminares (COTAPREP). Dicho comité tiene la tarea de asesorar y dar seguimiento a las actividades de implementación y operación del PREP, un sistema que provee los resultados preliminares de las elecciones, a través de la captura y publicación de los datos plasmados por los funcionarios de casilla.
“Mi rol será de participar en estas actividades y emitir recomendaciones que permitan mejorar la preparación de los sistemas y procesos para la implementación y operación del PREP”, detalla.
Asimismo, la Asamblea General para elección de Mesa Directiva de la Sociedad Mexicana de Inteligencia Artificial (SMIA) para el periodo 2024-2025, ratificó que la doctora será la presidenta de la misma; mientras que el Dr. Hiram Ponce, también profesor investigador de la Facultad de Ingeniería de la Panamericana, fungirá como vicepresidente, ambos a partir del 1 de enero de 2024.
En tal rol, la investigadora será responsable de la gestión de la mesa directiva de la SMIA, así como el desarrollo y ejecución del plan estratégico y la vinculación entre la sociedad y los actores académico, empresarial y de gobierno de la misma.
Contribuir en el desarrollo de la IA
“Ser parte de los expertos que pueden contribuir directamente en el desarrollo de estas tecnologías y por ende al desarrollo de nuestro país, es un gran privilegio y una gran responsabilidad”, declara la Dra. Lourdes.
De igual modo, dice a sus alumnas: “Como mujeres, tenemos perspectivas únicas y nuestra creatividad es necesaria para encontrar soluciones a problemas complejos”.
“Hoy más que nunca se requiere que haya más representatividad de las mujeres tanto en el desarrollo de sistemas inteligentes, influyendo en las decisiones en todo el ciclo de vida de estos, como en todos los niveles gubernamentales y empresariales, para aprovechar la IA y enfrentar los retos y desafíos de estas tecnologías”, concluye.
Datos de la investigadora
Dra. Lourdes Martínez Villaseñor, jefa de academia de la Maestría en Ciencia de Datos de la Universidad Panamericana.
SNI nivel I
Conoce más sobre los investigadores de la Universidad Panamericana y sus líneas de investigación en: https://www.up.edu.mx/investigadores-panamericana/
