Por Juan José Villar Roldán.
Data Analyst en Auditoría Interna Iberdrola. 

La IAG está evolucionando rápidamente y, desde el punto de vista de Auditoría Interna, presenta desafíos significativos. Juan José Villar (Data Analyst en AI Iberdrola) analiza en este artículo su potencial y sus riesgos. 

La Inteligencia Artificial Generativa (IAG) se puede definir como un grupo de algoritmos de Inteligencia Artificial que aporta capacidades creativas, pudiendo generar nuevo contenido en base a los datos con los que han sido entrenados.  

Estos modelos son capaces de generar texto (ChatGPT), imágenes (DALL-E), vídeos (Midjourney) u otros tipos de información. Dentro de estos modelos destacan por su adaptabilidad los foundation models, ya que pueden entrenarse de manera sencilla para propósitos específicos. Precisamente por esta razón, han sido incorporados de manera explícita en la reciente AI Act emitida por la Unión Europea. 

Especialmente, desde que en noviembre de 2022 OpenAI permitiese el acceso gratuito a ChatGPT, la IA Generativa ha comenzado a ejercer una influencia transformadora en la educación, las empresas y la sociedad. Los modelos para este tipo de herramientas y sus usos se han multiplicado, en una carrera entre grandes compañías por dominar este mercado emergente, con modelos como Google Bard o Claude. 

Sin embargo, a pesar de su rápida adopción y el crecimiento en la oferta de productos, los sistemas de IAG no están exentos de riesgos y sesgos. Estos riesgos pueden llegar a tener consecuencias adversas para nuestras organizaciones, desde interacciones inapropiadas con clientes en chatbots hasta discriminación en procesos de aprendizaje automático.  

Desde el punto de vista de Auditoría Interna, la complejidad de auditar estos sistemas, que se están integrando cada vez más en los procesos de nuestras compañías y en nuestra vida cotidiana en general, presenta desafíos significativos por su novedad y por la rapidez con la que evolucionan. 

“Estos sistemas basados en IAG presentan desafíos significativos para Auditoría Interna” 

Por ello, como auditores internos, nuestro enfoque no debe ser simplemente entender el marco regulatorio o las técnicas existentes, sino también proporcionar una visión holística que nos ayude a comprender cómo podemos aprovechar estas tecnologías emergentes, aprovechando la ventaja competitiva que nos aporta nuestro conocimiento trasversal e independiente de los procesos de la compañía. 

Este artículo no pretende ser una guía exhaustiva, sino un punto de partida para que los auditores internos puedan, por un lado, revisar y evaluar desde la perspectiva de riesgos y controles el uso que las organizaciones hacen de la IA Generativa, y, por otro, adoptarlas de manera informada en nuestros 31 propios procesos de auditoría. Para aquellos interesados en un análisis más detallado del marco regulatorio y las técnicas específicas asociadas a estas tecnologías, les invito a consultar el documento elaborado por La Fábrica de Pensamiento del Instituto ‘Auditoría Interna de la Inteligencia Artificial aplicada a procesos de negocio’, que ofrece una visión más detallada de dichos puntos. 

ACCEDE AL ARTÍCULO COMPLETO(solo socios)