La incorporación de la inteligencia artificial (IA) en el ámbito público mexicano ha aumentado considerablemente en tiempos recientes. No obstante, este progreso tecnológico ha sido acompañado por inquietudes acerca de la transparencia y la responsabilidad en su aplicación por las entidades gubernamentales.
La implementación de la inteligencia artificial (IA) en el sector público mexicano ha crecido significativamente en los últimos años. Sin embargo, este avance tecnológico ha estado acompañado de preocupaciones relacionadas con la transparencia y la rendición de cuentas en su uso por parte de las instituciones gubernamentales.
Un grupo de investigadores del Centro de Investigación y Docencia Económicas (CIDE) ha encontrado no menos de 119 aplicaciones de IA funcionando en los tres poderes de la Unión y en las diversas instancias del gobierno en México. Estas herramientas incluyen desde chatbots para atención al público hasta sistemas de análisis de datos para apoyar la toma de decisiones. No obstante, lograr acceso a información específica sobre estas aplicaciones ha resultado complicado debido a la falta de transparencia y a la reticencia de ciertas entidades a ofrecer datos claros sobre su utilización y operación.
Investigadores del Centro de Investigación y Docencia Económicas (CIDE) han identificado al menos 119 aplicaciones de IA operando en los tres poderes de la Unión y en los tres niveles de gobierno en México. Estas herramientas abarcan desde chatbots para atención ciudadana hasta sistemas de análisis de datos para la toma de decisiones. Sin embargo, obtener información detallada sobre estas aplicaciones ha sido un desafío debido a la opacidad y la resistencia de algunas instituciones a proporcionar datos claros sobre su uso y funcionamiento.
Desafíos en la transparencia y acceso a la información
Confusión y escasa comprensión sobre la IA
Un problema adicional detectado es el desconocimiento dentro de las mismas instituciones acerca de qué se considera una aplicación de IA. En varias respuestas a las solicitudes de transparencia, las entidades mencionaron herramientas de software convencional, como paquetes de oficina o programas de ciberseguridad, como si fueran inteligencia artificial. En conjunto, 223 aplicaciones reportadas no cumplían con los requisitos fundamentales para ser clasificadas como IA, lo que evidencia un problema de desinformación incluso en departamentos de tecnología de la información en el gobierno.
Otro problema identificado es la falta de conocimiento dentro de las propias instituciones sobre qué constituye una aplicación de IA. En muchas respuestas a solicitudes de transparencia, las dependencias listaron herramientas de software tradicional, como suites de oficina o programas de ciberseguridad, como si se tratara de inteligencia artificial. En total, 223 aplicaciones reportadas no cumplían con los criterios básicos para ser consideradas IA, lo que refleja un problema de desinformación incluso en áreas de tecnología de la información dentro del gobierno.
Consideraciones éticas y riesgos asociados al uso de la IA
El uso de IA en el sector público también ha generado debates éticos relacionados con la privacidad, la transparencia, la rendición de cuentas y el derecho de acceso a la información. La opacidad en los algoritmos puede afectar la confianza de la ciudadanía en estas herramientas, especialmente si no se conocen los criterios bajo los cuales operan o si existen sesgos que puedan conducir a decisiones discriminatorias. Por ejemplo, durante la pandemia de COVID-19, se implementaron chatbots como «Susana Distancia» y «Dr. Armando Vaccuno» para informar a la población. Sin embargo, surgieron preocupaciones éticas sobre la transparencia y la privacidad en su uso, lo que llevó a una baja confianza y uso por parte de la ciudadanía.
Necesidad de un marco regulatorio adecuado
La falta de transparencia en el uso de IA por parte de los gobiernos resalta la necesidad de establecer marcos regulatorios que garanticen la auditabilidad y responsabilidad en el uso de estas tecnologías. Es esencial analizar las legislaciones en diferentes ámbitos e identificar cómo podrían ser utilizadas adecuadamente para garantizar que la implementación de IA respete los derechos de la ciudadanía y opere de manera ética y transparente.
