Los sistemas de IA de alto riesgo están sujetos a las normativas más estrictas bajo el Reglamento Europeo de IA. Los servicios de asesoría en este punto incluyen garantizar que la empresa implemente las medidas necesarias para cumplir con estos requisitos. Algunos aspectos clave son:

a) Gestión de Riesgos

• Se debe realizar una evaluación continua de riesgos asociados al uso de IA. Esto implica identificar posibles vulnerabilidades y evaluar cómo podrían impactar a los usuarios o a terceros.
• El sistema de IA debe contar con mecanismos para mitigar estos riesgos, tanto en su diseño como durante su operación.

b) Transparencia y Explicabilidad

• Los sistemas de IA de alto riesgo deben ser transparentes, lo que significa que su funcionamiento debe ser comprensible para las partes interesadas. La empresa debe proporcionar suficiente información para que los usuarios comprendan cómo se toman las decisiones automatizadas.
• Además, es fundamental que el sistema de IA sea explicable: en caso de una auditoría o disputa, se debe poder demostrar cómo el sistema llegó a una conclusión o tomó una decisión.

c) Supervisión Humana

• La normativa exige que los sistemas de IA de alto riesgo estén diseñados para permitir la intervención humana en caso de fallos o decisiones incorrectas. Esto incluye la posibilidad de revisar y corregir las decisiones tomadas por la IA.
• La supervisión también implica que, en determinadas circunstancias, un humano pueda anular las decisiones automatizadas si se detectan errores o riesgos.

d) Trazabilidad y Registro de Actividades

• Los sistemas de IA de alto riesgo deben mantener registros de todas sus actividades y decisiones, para poder revisar sus operaciones y garantizar que cumplen con los principios de legalidad y ética.
• Estos registros ayudan en auditorías y son cruciales para investigar cualquier problema que pueda surgir con la IA.

e) Evaluación de Conformidad

• Para comercializar o utilizar un sistema de IA de alto riesgo, la empresa debe llevar a cabo una evaluación de conformidad (similar a un proceso de certificación) para demostrar que el sistema cumple con los requisitos establecidos por la normativa.
• Esto implica la presentación de documentación técnica detallada sobre el sistema de IA, su diseño, desarrollo, evaluación de riesgos y medidas de mitigación.