Ministerios de Ciencia y Hacienda lanzan herramientas para un desarrollo responsable de la IA en el Estado

 

Ante un centenar de innovadores públicos, fueron presentadas la “Ficha de transparencia algorítmica” y la herramienta “Medición de sesgos y equidad estadística”. Ambas herramientas fueron diseñadas por la Universidad Adolfo Ibáñez (UAI) en el marco de un proyecto con financiamiento de la Agencia Nacional de Investigación y Desarrollo de Chile (ANID) para ayudar a las instituciones públicas y a sus proveedores tecnológicos a desarrollar e implementar inteligencia artificial (IA) con estándares éticos y de responsabilidad.

El encuentro fue encabezado por la ministra de Ciencia, Tecnología, Conocimiento e Innovación, Aisén Etcheverry; el director de la Secretaría de Gobierno Digital, José Inostroza; y la decana de la Escuela de Gobierno de la UAI, María José Naudon.

En la bienvenida, la ministra Aisén Etcheverry indicó que “estas herramientas son parte de la hoja de ruta y del Plan de Acción de la Política de IA, y son esenciales porque les entregan a los servicios que están involucrados lo que necesitan para poder efectivamente implementarlo. Además, estamos tramitando dos proyectos de ley, el de protección de datos personales y el de inteligencia artificial, que van a hacer de estas exigencias una obligación legal, no solo ética. Así que el llamado es a aprovechar estas herramientas que están disponibles y, que además va a haber un acompañamiento por parte de la UAI en su implementación para no quedarse atrás”.

Por su parte, el director de la SGD, José Inostroza, señaló que “la inteligencia artificial tiene el potencial de transformar nuestras instituciones y procesos públicos, para crear valor público y enfrentar los acuciantes desafíos que enfrentamos como país, pero debemos asegurarnos de que esta transformación sea guiada por principios éticos sólidos para cuidar por sobre todo la confianza en el quehacer del Estado. Esta iniciativa se alinea perfectamente con nuestra Estrategia de Datos del Estado, que busca fomentar la transparencia, la responsabilidad y la innovación en el uso de datos”.

La decana María José Naudon señaló que "sabemos que la IA tiene el potencial de mejorar procesos, productos y servicios que impactan positivamente la vida de las personas, y eso nos entusiasma. Pero también tenemos la certeza de que va a generar nuevos desafíos sociales y éticos. Es por eso que desde la Universidad Adolfo Ibáñez ponemos a disposición del sector público, y sus proveedores tecnológicos, dos herramientas concretas que les permitirán evaluar y mitigar riesgos e implementar sus sistemas con altos estándares éticos y de transparencia.”

La presentación de las herramientas fue liderada por María Paz Hermosilla, directora del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno de dicha casa de estudios, quien destacó que se trata de “recursos gratuitos, de código abierto y en español que son parte del Plan de Acción de la Política Nacional de Inteligencia Artificial (IA) y que se adelantan a la legislación que se está promoviendo actualmente en la materia”.

Además, invitó a los organismos públicos a hacerse parte del proceso de pilotaje que permitirá tanto perfeccionar las herramientas como orientar y acompañar a los interesados en su implementación.

Durante el encuentro se realizó un panel técnico que permitió a los asistentes conocer en detalle y de primera mano la experiencia de quienes han probado este tipo de herramientas junto al GobLab, previamente, a través de iniciativas piloto.

Así, José Francisco Silva, jefe del Proyecto No Cobros del Instituto de Previsión Social (IPS), contó cómo trabajaron en varias instancias con la UAI para medir si su modelo predictivo incluía sesgos o no; por su parte Rodrigo Moya, jefe de la Unidad de Transformación Digital, Innovación y Proyectos de la Superintendencia de Seguridad Social (SUSESO) explicó cómo y por qué medirán sesgos y equidad en procesos de reclamación de licencias médicas y seguros; y finamente Cristián González, jefe de Gestión en la Información del Servicio Civil detalló cómo ha sido trabajar con la ficha de transparencia del modelo en concursos de Alta Dirección Pública.

Metodología de pilotaje

Si bien esta convocatoria es nueva, se trata de la continuación de un trabajo que comenzó en 2020 junto a BID Lab y que, a través de la creación de estas herramientas y otros productos, ha llevado a la Universidad Adolfo Ibáñez y sus socios en esta iniciativa -el Ministerio de Ciencia, ChileCompra, Gobierno Digital, el IPS, la SUSESO, el Servicio Civil y el Consejo para la Transparencia- a liderar un proceso de implementación práctica de IA responsable, único en el mundo.

En la actual convocatoria, pueden participar proyectos de ciencia de datos o inteligencia artificial en el sector público que estén en fases de desarrollo, implementación o producción, y pueden estar a cargo de un equipo interno del propio organismo o en conjunto con un proveedor externo.

Toda la información y la postulación a los pilotos está disponible en la plataforma www.algoritmospublicos.cl.