La inteligencia artificial (IA) hace tiempo que dejó de ser una tecnología del futuro. Ya convivimos con ella, de forma consciente o inconsciente. Desde la atención al cliente automatizada hasta la toma de decisiones en el sector sanitario o los servicios financieros, la IA (inteligencia artificial) se utiliza cada vez más para hacer que los procesos sean más inteligentes y rápidos.
Las ventajas son evidentes: mayor eficiencia, mejor análisis de grandes flujos de datos y ayuda en la toma de decisiones complejas. Pero a medida que aumentan las aplicaciones, también crece la conciencia de que la IA conlleva riesgos si no se cuenta con un marco claro.
¿Qué ocurre si un algoritmo comete un error? ¿Quién es responsable si un modelo de IA perjudica a las personas sin que usted se dé cuenta? ¿Y cómo puede estar seguro de que sus aplicaciones de IA cumplen los requisitos normativos y de confianza de los clientes?
Cuando la IA se convierte en un riesgo
Sin control ni estructura, los sistemas de IA pueden dar lugar a resultados injustos, poco fiables o incluso perjudiciales. Dos situaciones prácticas muestran lo rápido que pueden salir mal las cosas:
1-Discriminación en la contratación
Una empresa tecnológica internacional decide utilizar la IA para la preselección de candidatos.
La herramienta analiza los currículos, los compara con los datos de antiguos empleados que han tenido éxito y filtra automáticamente a los candidatos más adecuados. La empresa no se da cuenta de que los datos de formación proceden en su mayor parte de un periodo en el que los candidatos contratados eran principalmente hombres.
¿El resultado? La IA «aprende» que se prefieren los perfiles masculinos y comienza a clasificar sistemáticamente a las candidatas femeninas y no occidentales en puestos inferiores. Dado que el proceso de selección está totalmente automatizado, estas diferencias pasan desapercibidas durante mucho tiempo. Solo cuando surgen señales de una notable falta de diversidad entre los nuevos empleados se inicia una investigación interna.
Las consecuencias son graves: pérdida de oportunidades de talento, malestar interno y deterioro de la imagen de la empresa. Además, la empresa tiene que intervenir en el proceso, reeducar a la IA e invertir en controles adicionales, lo que se podría haber evitado con un enfoque estructurado previo.
2. Exclusión involuntaria de la evaluación crediticia
Una entidad financiera utiliza la IA para evaluar las solicitudes de crédito de forma más rápida y eficiente. El sistema utiliza cientos de variables, desde el historial crediticio hasta el comportamiento en línea, para evaluar el riesgo. Lo que nadie se da cuenta al principio es que el algoritmo también tiene en cuenta los datos del código postal como factor de riesgo indirecto.
Con el tiempo, se descubre que los solicitantes de determinados barrios son rechazados sistemáticamente o se les aplica un tipo de interés desfavorable, incluso si cumplen los requisitos formales. Los clientes no entienden la decisión, los empleados tienen dificultades para explicar la evaluación y se reciben cada vez más quejas.
Un análisis independiente demuestra que la IA ha introducido involuntariamente una discriminación geográfica. El sistema «aprendió» de modelos antiguos que determinados códigos postales representaban un riesgo mayor, sin contexto ni matices.
La entidad financiera tuvo que suspender temporalmente el modelo y también tuvo que hacer frente a preguntas de los organismos reguladores sobre la transparencia y el uso responsable de la IA.
ISO/IEC 42001: abordar la IA en su empresa
La norma internacional ISO/IEC 42001 se ha desarrollado precisamente para ayudar a gestionar estos riesgos. Es la primera norma para Sistemas de Gestión dedicada íntegramente al desarrollo, el uso y la gestión responsables de la IA.
La norma le ayuda a establecer políticas y procesos relacionados con:
- Calidad y representatividad de los datos
- Supervisión y adaptación del rendimiento de la IA
- Funciones y gobernanza claras
- Explicabilidad y responsabilidad de las decisiones de la IA.
La norma ISO/IEC 42001 está armonizada con normas existentes como ISO 9001 e ISO 27001. Si ya dispone de un Sistema de Gestión integrado, la norma ISO 42001 se puede integrar fácilmente. Además, la norma le ayuda a prepararse para normativas como la Ley Europea de IA, que entrará en vigor en 2024.
El conocimiento, la clave para una aplicación responsable
Una norma solo es eficaz si su personal sabe aplicarla. LRQA ofrece formación específica sobre la norma ISO/IEC 42001, adaptada a diferentes funciones, desde TI y legal hasta cumplimiento normativo, RR. HH. y políticas.
Nuestra formación combina conocimientos teóricos con aplicaciones prácticas, para que domine sus aplicaciones de IA y pueda prevenir riesgos.
Empiece hoy mismo a utilizar la IA de forma responsable
La IA es cada vez más importante. Invertir ahora en conocimientos, estructura y supervisión reforzará la fiabilidad y la integridad de su empresa.
¿Desea obtener más información sobre nuestros cursos de formación ISO/IEC 42001? Consulte nuestra oferta o póngase en contacto con nuestro equipo.
Explore nuestros cursos de formación Contáctenos