Iniciar sesión
Cómo evaluar la ética de los algoritmos
Analizamos las bondades de la Inteligencia Artificial pero también la necesidad de ponerle límites. Y pasamos de la teoría a la práctica apuntando el papel de Auditoría Interna.
La sesión de junio de Los Lunes del Instituto de Auditores Internos la dedicamos a uno de los aspectos más apasionantes y sin duda retadores del futuro, la Inteligencia Artificial que, para no que no fuera demasiado amplio, la centramos en Cómo evaluar la ética de los algoritmos.
Carlos Rebate, director de Transformación de Securitas Seguridad, nos habló de las bondades y riesgos para la humanidad de la Inteligencia Artificial, de la enorme ayuda que nos va a prestar esta tecnología emergente en sus múltiples aplicaciones prácticas y de la necesidad de ponerle límites. Y Cristina Bausá, Directora de Auditoría Interna de Sistemas en Sareb, animó a los auditores internos a adoptar un papel activo en el análisis y auditoría de los algoritmos y ofreció unas pautas prácticas para empezar a andar el camino.
Equilibrio hombre-máquina
Carlos Rebate cautivó a la audiencia presentando en vivo y en directo cómo aprenden los algoritmos con un ejercicio muy básico -distinguir entre imágenes de perros y gatos- para, a partir de ahí, situarnos en la verdadera importancia de la Inteligencia Artificial. “Es un riesgo existencial porque tiene que ver con la toma de decisiones y ya está teniendo un impacto significativo en nuestras vidas. La Inteligencia Artificial amplía y supera la inteligencia biológica; necesitamos que las máquinas nos ayuden, pero es crítico decidir en qué necesitamos su ayuda y cómo le ponemos límites”, señaló, tras declararse positivo respecto al futuro: “yo creo en ese equilibrio entre hombre-máquina”.
Rebate insistió en la aceleración de la innovación, de las tecnologías, en el desarrollo exponencial. “Si el siglo XX equivale a unos 20.000 años de progreso, imaginar el siglo XXI…”, dijo tras advertir que cuando todo corre más rápido, “los errores se pagan más caros”, de ahí su llamamiento a abordar desde ya los desafíos que plantea la Inteligencia Artificial.
El papel de Auditoría Interna
Cristina Bausá enfatizó también la necesidad de ponerse manos a la obra –“el reto de gestionar la Inteligencia Artificial empieza hoy, no en 2050”- y animó a los auditores internos a dar un paso al frente: “La Inteligencia Artificial no es el futuro, es el presente y los auditores internos no podemos llegar tarde porque, además, hay aspectos que juegan a nuestro favor: estamos acostumbrados a analizar y trabajar con datos, somos equipos multidisciplinares, tenemos visión trasversal, conocimiento y rigor. Si hay abogados que están aprendiendo a programar en Python, ¿por qué no un auditor interno?”, reflexionó en voz alta.
Bausá, auditora interna con formación informática, apuntó una hoja de ruta y algunas pautas prácticas para arrancar una auditoría sobre la ética de los algoritmos, empezando por elaborar un mapa o inventario de los algoritmos que utiliza la organización -identificando cuáles afectan a las personas o a la toma de decisiones con posibles implicaciones éticas- siguiendo por los aspectos relevantes a auditar como es el gobierno, la transparencia, los sesgos, la legalidad, la seguridad…
“No sabemos qué va a predecir un algoritmo, pero sí los datos que utiliza y los auditores estamos acostumbrados a trabajar con datos”, insistió Bausá para subrayar a continuación que “el algoritmo no toma decisiones. Las decisiones las toman las personas que dan las pautas al algoritmo”. Desde el punto de vista de Auditoría Interna, insistió en que “los algoritmos deben ser auditables desde el principio” -como pasa con la privacidad de los datos (privacy by design)- y transparentes, “que pueda venir un regulador y conocer los principios que rigen el algoritmo”.
Sin duda, estamos ante un momento muy interesante de la historia que debemos ser capaces de gestionar.