Transparencia algorítmica ¿un problema normativo o tecnológico?

Resumen

Con la evolución de las tecnologías, cada vez va a ser más frecuente que ciertas decisiones tales como selección de personal, otorgamiento de crédito o selección de parejas, sean adoptadas por sistemas de inteligencia artificial estructurados sobre la base de algoritmos de aprendizaje automático. Muchas de esas decisiones pueden contener sesgos que derivan en decisiones discriminatorias que afectan al sujeto sobre el que recae dicha decisión.

Para revelar cómo se adoptaron dichas decisiones, se ha recurrido a la idea de transparencia en materia de algoritmos, implementándola a través de regulaciones. Dicho enfoque normativo o regulatorio resulta insuficiente para resolver el problema planteado, principalmente, porque ignora una premisa básica: la transparencia no es solamente un problema legal, sino también un problema tecnológico, que adquiere relevancia cuando se considera la naturaleza de los algoritmos involucrados, esto es, algoritmos de aprendizaje automático.

Los algoritmos de aprendizaje automático, por su parte, constituyen una tecnología idónea para obtener una automatización de procesos más sofisticada, pues supone acceder a reglas más inteligentes, potentes y flexibles, que se van corrigiendo a medida que los datos de la muestra van evolucionando y reconociendo variaciones en función de muchísimos factores. Sin embargo, el grado de sofisticación de estos algoritmos conlleva una complejidad de sus modelos que, a su vez, inciden en la dificultad para su interpretación.

El enfoque normativo desconoce la complejidad antes mencionada, generando un marco regulatorio insuficiente y rígido. El presente artículo propone superar dicha visión a través de propuestas flexibles, comprendiendo el rol de la tecnología, reconociendo su valor y estimulando su uso. En definitiva, propuestas que fomenten y fortalezcan la innovación en Chile.