Por Ignacio Bazarra
Fotos: Ángel Gutiérrez

Gemma Galdon (Mataró, 1976) es historiadora y doctora en Políticas Tecnológicas. Desde Nueva York, donde dirige Eticas.ai, se ha convertido en un referente internacional en la regulación de la Inteligencia Artificial y ha desarrollado una metodología propia de auditoría algorítmica.

Nos recibe en pleno Times Square. Acaba de llegar de París, de una reunión de ministros de Sanidad de la OCDE ante los que ha hablado sobre los riesgos y las oportunidades de la IA.
Ver vídeo  

Pregunta: Se acaba de aprobar la ley europea de IA y nos preguntamos de nuevo si en la UE regulamos muy bien lo que otros producen.

Podía ser cierto hace un tiempo, ahora ya no tanto: también Estados Unidos y China están regulando. Europa ha demostrado en ser pionera en crear ese ecosistema de regulación de la IA, pero no se ha quedado sola. Sigue por detrás en capacidad y producción, hay menos inversión, pero para mí lo más preocupante es que Europa innova a nivel regulatorio, pero no crea un mercado alineado con esa innovación que sí nos diferenciaría con respecto al resto.

» Se necesitan perfiles capaces de entender una tecnología y un mundo cada vez más complejos».

P: ¿Cómo ha llegado a la conclusión de que hace falta una auditoría algorítmica en las empresas?

Hace siete años nos planteamos cómo podíamos ser útiles ante un problema clave: teníamos un regulador con vocación y mandato para crear los principios y una industria tecnológica que avanzaba sin ningún tipo de reflexión sobre su impacto. No había encuentro entre ellos. Los sectores no nacen regulados: los coches no se inventaron con cinturones de seguridad.

Vimos que la auditoría algorítmica nos permitía crear un mecanismo de validación externa a partir de lo que han hecho previamente los auditores internos, personas que han organizado la información para que esté lista para ser auditada. Las empresas estaban haciendo esfuerzos internos para gestionar mejor su información y crear mecanismos de gobernanza de la IA, pero muchas veces sin ningún tipo de guía. Esos contables algorítmicos hacían cada uno lo que quería. Las coas realmente importantes no se medían.
Entrevista completa en la revista     (Solo socios)