La jornada, co-organizada por el proyecto Algoritmos Éticos de la Universidad Adolfo Ibáñez y la Universidad de Los Lagos, dio a conocer la nueva normativa para compras públicas de ciencia de datos, lo que viene en transparencia algorítmica y herramientas concretas para la formulación e implementación de estándares de equidad y privacidad, entre otros.
La inteligencia artificial (IA) y los sistemas de decisión automatizada están presentes en la vida cotidiana de todos: al interactuar con un chatbot de atención al cliente, al usar programas de reconocimiento facial y hasta en el análisis de exámenes médicos. Pero, ¿los datos, sistemas y modelos están siendo usados de forma ética? ¿Cómo está regulando Chile esta materia?
Éstas fueron algunas preguntas analizadas durante el seminario “El camino chileno hacia una IA responsable”, realizado en la Universidad de Los Lagos en Puerto Montt.
La actividad se realizó en el marco del proyecto Algoritmos Éticos, Responsables y Transparentes de la Universidad Adolfo Ibáñez (UAI) y llevó hasta la capital regional la discusión sobre las oportunidades y suspicacias que abre la IA, un tema protagónico hoy a nivel global.
María Paz Hermosilla, directora del GobLab UAI y del proyecto Algoritmos Éticos, estuvo a cargo de la ponencia central del seminario y advirtió que, así como las decisiones basadas en algoritmos, sistemas automatizados e inteligencia artificial pueden ayudar a solucionar grandes problemas sociales, también son susceptibles de generar acciones discriminatorias -por género, edad o nacionalidad-, faltas de transparencia o que pasen a llevar la privacidad, entre otros problemas.
“Para hacer inteligencia artificial responsable se requiere de mucha divulgación, por eso estamos aquí. Porque a veces se piensa que los algoritmos son objetivos y que no hay ninguna posibilidad de sesgo, otros creen que todos son peligrosos: eso hay que desmitificarlo”, resaltó la académica.
Durante su exposición contó que en Chile ya se están realizando acciones en la materia. Durante los últimos tres años, a través del proyecto Algoritmos Éticos se han elaborado herramientas, normativas y metodologías para diseñar, adquirir e implementar proyectos de ciencia de datos con requisitos éticos en el sector público o en el privado, las cuales fueron abordadas a continuación en un panel de conversación.
Una de ellas son las Bases Tipo para la licitación de proyectos de ciencias de datos e IA, desarrollada junto a ChileCompra y que es única en Latinoamérica. “Generamos un documento para la compra estandarizada de sistemas automatizados por parte del Estado, éstas incluyen requisitos éticos que deberán ser exigidas por los compradores públicos y ser cumplidas por los proveedores”, indicó Paula Moreno, jefa del Departamento de Compras Estratégicas de ChileCompra.
También participó Fernando Arias, jefe del Departamento de Pago de Beneficios del Instituto de Previsión Social (IPS), quien explicó cómo un piloto ejecutado en el proyecto permitirá detectar a quienes no han cobrado sus ayudas sociales. “Nos dimos cuenta de que hay personas que no cobran o lo hacen de forma tardía, porque no están bancarizadas. ¿Cómo el Estado puede estar más cerca de ellas? En este contexto, creamos distintas acciones para avisarles, y además utilizamos un algoritmo que predice quiénes tienen más posibilidades de no cobrar, para focalizar acciones en esas personas, como comunicarnos con ellas por celular, correo e incluso ir a sus hogares.”
Con los diversos mecanismos que están llevando a cabo han pagado más de 690 mil beneficios, 34 mil corresponden solo a la Región de Los Lagos y cerca de 8 mil personas en el país fueron contactadas a través del algoritmo predictivo desarrollado con asesoría del proyecto Algoritmos Éticos para evitar sesgos.
Por su parte Alejandro Santibáñez, académico del Departamento de Gobierno y Gestión Pública de la Universidad de Los Lagos, destacó la realización de este encuentro y la necesidad de someter las nuevas tecnologías a los más altos estándares de transparencia, privacidad, equidad y responsabilidad, para que estén al servicio de las personas.
A propósito de transparencia, el académico mencionó que en el Observatorio Regional para la Transparencia ULagos realizaron un monitoreo a 72 instituciones públicas sobre “las rendiciones públicas y transparencia presupuestarias, donde descubrimos que hay diferencias notables entre los organismos centralizados que son sujetos obligados por ley y los que tienen sus páginas web en la región, porque cuando se visitan éstas remiten a nivel nacional y la información es centralizada y no regionalizada. Eso ya es un problema”.
Tras el seminario se realizaron dos talleres de capacitación, uno sobre la guía Formulación ética de proyectos de ciencia de datos y el otro sobre las ya mencionadas Bases Tipo.
Esta fue la primera de una serie de jornadas que ofrecerá este trimestre el proyecto Algoritmos Éticos: las próximas serán el 28 de noviembre en Antofagasta y el 5 de diciembre en Santiago.
Sobre el proyecto Algoritmos Éticos
Esta iniciativa es ejecutada por la Universidad Adolfo Ibáñez desde 2020 con financiamiento de BID Lab – el laboratorio de innovación del Grupo BID –, el apoyo de diversos organismos públicos y privados, y ya proyecta dos años más de funcionamiento gracias a la adjudicación de fondos del concurso IDeA I+D 2023 de ANID.
