La Superintendencia de Seguridad Social -Suseso- es una de las siete instituciones públicas que han sido parte del pilotaje de las herramientas de algoritmos éticos, con dos de sus proyectos que utilizan ciencia de datos: Modelo Predictivo de Licencias Médicas y la Auditoría de Modelo Predictivo de Seguro Laboral.

Los instrumentos utilizados son "Ficha de transparencia algorítmica", que puede ser aplicada a modelos de ciencia de datos o de Inteligencia Artificial (IA) de cualquier naturaleza, y la herramienta "Medición de sesgos y equidad estadística", pensada para sistemas predictivos de clasificación binaria o multiclase. Ambos instrumentos fueron desarrollados por el equipo del GobLab, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI).

"El objetivo de ser parte de este piloto es, por un lado, someter nuestras iniciativas que se están desarrollando con el uso de ciencia de datos a los más altos estándares éticos y de transparencia y, por otro, contar con el apoyo y orientación de profesionales e instituciones expertas en estas materias. Todo con el objetivo de apoyar la labor resolutiva que como Superintendencia debemos realizar de manera óptima u oportuna", afirmó la superintendenta de Seguridad Social, Pamela Gana.

Por su parte, María Paz Hermosilla, directora del GobLab UAI explicó que "estas dos herramientas están en marcha blanca, por lo tanto, estamos buscando servicios públicos que las quieran probar a través de pilotos, con el acompañamiento de nuestro equipo, para chequear y mejorar los niveles de transparencia de sus algoritmos, y para medir los sesgos y la equidad de sus modelos", explicó.

Metodología de pilotaje

Actualmente se encuentran disponibles en su versión Beta estas dos herramientas gratuitas, estandarizadas, de código abierto, en español y hechas en Chile, diseñadas para ayudar a las instituciones públicas y a sus proveedores tecnológicos a implementar la Política Nacional de Inteligencia Artificial (IA) y a aplicar la circular del Ministerio de Ciencia que entrega lineamientos sobre el tema.

Si bien esta convocatoria es nueva, se trata de la continuación de un trabajo que comenzó en 2020 junto a BID Lab y que, a través de la creación de estas herramientas y otros productos, ha llevado a la Universidad Adolfo Ibáñez y sus socios en esta iniciativa -el Ministerio de Ciencia, ChileCompra, Gobierno Digital, el IPS, la SUSESO, el Servicio Civil y el Consejo para la Transparencia- a liderar un proceso único en el mundo en cuanto a la implementación práctica de IA responsable.

"Todas las herramientas de aplicación de estándares éticos que están disponibles en la plataforma han sido probadas en algoritmos e instituciones reales a través de nuestra metodología, que permite experimentar en la práctica qué significa incorporar estándares éticos. Son muchas las organizaciones que han participado de los procesos anteriores y esperamos que se nos sumen muchas más en esta nueva etapa" señaló María Paz Hermosilla.

En la actual convocatoria, podrán participar proyectos de ciencia de datos o inteligencia artificial en el sector público, que estén en fases de desarrollo, implementación o producción, y pueden ser proyectos a cargo de un equipo interno del propio organismo o de un proveedor externo.

Toda la información y la postulación a los pilotos está disponible en la plataforma www.algoritmospublicos.cl.

*En la foto: Taller práctico de prueba de las herramientas, durante la Jornada de Vinculación con exalumnos del GobLab UAI.