SEGURIDAD · TRAZABILIDAD REGULATORIA
Auditable por sus autoridades de tutela, por sus comités éticos, por sus contradictores.
La trazabilidad integral de nuestros razonamientos se convierte en un instrumento de conformidad frente a las autoridades de tutela sectoriales, al AI Act europeo, a los controles internos y a las impugnaciones contradictorias. Un compromiso contractual oponible.
POR QUÉ LA AUDITABILIDAD REGULATORIA ES ESTRUCTURANTE
Una capacidad técnica solo tiene valor regulatorio por los usos que hace posibles.
La página Explainable AI documentaba nuestra trazabilidad como capacidad técnica: cada insight remonta a las entrevistas que lo produjeron, cada proyección permanece apoyada en su razonamiento. Esta página trata la misma trazabilidad desde un ángulo complementario, el de la conformidad regulatoria que hace posible: una dirección de cumplimiento puede auditar nuestros entregables frente a sus autoridades de tutela, un regulador puede ejercer su control sobre los usos de los actores que supervisa, un comité ético interno puede validar un despliegue sensible, un contradictor independiente puede impugnar nuestras conclusiones línea a línea.
Sin esta instrumentación, la trazabilidad técnica permanece infrautilizada: los clientes disponen de una capacidad que no saben movilizar frente a sus obligaciones de conformidad. Organizarla en mecanismos de auditoría, de control y de impugnación es lo que transforma una propiedad del producto en un instrumento comercial para los sectores regulados.
TRES NIVELES DE AUDITABILIDAD COMPLEMENTARIOS
Auditoría externa independiente, control por autoridad de tutela, impugnación contradictoria por terceros.
Auditoría externa independiente mandatada por el cliente.
Un gabinete de auditoría designado por nuestro cliente, consultora sectorial, contraexperto académico o especialista en auditoría de sistemas de IA, puede auditar íntegramente nuestros entregables: entrevistas individuales de las poblaciones sintéticas, caminos de razonamiento de cada insight, protocolos de calibración estadística, medidas de varianza. La auditoría puede conducirse en cualquier momento: antes de la decisión, durante el despliegue, después de la puesta en marcha.
Control por autoridad de tutela sectorial.
Las autoridades de tutela a las que están sometidos nuestros clientes, en particular la ACPR para la banca y los seguros, la AMF para los mercados financieros, la HAS para la salud, la CNIL para los datos personales, pueden ejercer su control sobre los usos que hacen de nuestro sistema los actores que supervisan. Nos comprometemos contractualmente a poner a disposición los elementos técnicos necesarios, bajo las condiciones usuales de confidencialidad.
Impugnación contradictoria por terceros.
En las decisiones públicas o de fuerte impacto territorial, la impugnación por terceros, asociaciones, sindicatos, contraexpertos, periodistas, es un dato estructural del debate democrático. Nuestra trazabilidad la transforma de un riesgo que absorber en un diálogo que conducir: un contradictor puede leer nuestros razonamientos, señalar sus límites, proponer lecturas alternativas. Este diálogo no fragiliza nuestros análisis: demuestra su seriedad.
LOS REFERENCIALES REGULATORIOS APLICABLES
Nuestro posicionamiento frente al AI Act, a los referenciales sectoriales y a los controles internos.
Frente al AI Act europeo.
El Reglamento Europeo de Inteligencia Artificial, en vigor desde 2024-2025, impone obligaciones específicas de trazabilidad, de documentación técnica y de auditabilidad para los sistemas de IA clasificados de alto riesgo: sistemas biométricos, sistemas de puntuación social, sistemas utilizados en infraestructuras críticas, sistemas utilizados en procesos de decisión que comprometen los derechos fundamentales. Nuestro posicionamiento frente a estas obligaciones se detalla en la página Gobernanza ética. Nuestra trazabilidad técnica constituye la base que hace posible la documentación técnica exigida por el AI Act para los usos calificables de alto riesgo: sin que esta calificación afecte sistemáticamente a nuestros entregables, que corresponden la mayoría de las veces a categorías menos estrictamente encuadradas.
Frente a los referenciales sectoriales de las autoridades de tutela.
Cada autoridad de tutela sectorial dispone de sus propios referenciales aplicables a los sistemas de análisis y de ayuda a la decisión utilizados por los actores que supervisa. La ACPR encuadra los usos de sistemas de ayuda a la decisión por los bancos y las aseguradoras. La AMF encuadra los usos de modelos cuantitativos por los actores de los mercados financieros. La HAS encuadra los usos de sistemas de ayuda a la decisión médica. La CNIL encuadra el conjunto de los tratamientos de datos de carácter personal. Nuestros clientes en estos sectores pueden solicitarnos la documentación técnica necesaria para sus propios procesos de conformidad frente a sus autoridades de tutela respectivas.
Frente a los controles internos de las grandes empresas.
Más allá de las obligaciones regulatorias externas, las grandes empresas disponen de instancias internas de control: comités éticos internos, direcciones de cumplimiento, direcciones de control interno, direcciones de auditoría interna. Estas instancias internas exigen estructuralmente una auditabilidad completa de las herramientas de análisis y de ayuda a la decisión que despliegan. Nuestra trazabilidad técnica responde a estas exigencias internas sin procedimiento ad hoc: el comité ético interno de un gran grupo puede validar un despliegue de nuestras herramientas sobre la base de la misma documentación técnica que satisface un control regulatorio externo.
LA TRAZABILIDAD REGULATORIA COMO REQUISITO DE UN DESPLIEGUE SENSIBLE
LUCHA CONTRA EL FRAUDE
Diseñar una IA predictiva de detección de fraude sin discriminación algorítmica.
Este caso ilustra hasta qué punto la trazabilidad regulatoria puede ser estructurante para hacer posible un despliegue sensible. Una aseguradora de salud europea preparaba el despliegue de una IA predictiva para identificar los perfiles con riesgo de fraude en los reembolsos. El reto ético y reputacional era de primer orden: un sistema mal calibrado podía discriminar estructuralmente a tipologías de asegurados vulnerables. Nuestra trazabilidad técnica permitió al comité ético de la aseguradora auditar cada escenario probado, a los equipos jurídicos documentar la conformidad frente a las exigencias de la CNIL y de la ACPR, y a un gabinete de auditoría externa independiente mandatado por el comité ético validar la robustez metodológica del sistema final. Sin esta trazabilidad regulatoria completa, el despliegue no habría podido validarse: el reto no era el rendimiento predictivo, sino la demostración de conformidad frente a tres niveles de auditoría independientes.
Leer el caso completo →LOS USOS QUE ABRE LA TRAZABILIDAD REGULATORIA
Un instrumento utilizable en los sectores regulados más exigentes.
La instrumentación regulatoria de nuestra trazabilidad técnica abre usos que los actores sin instrumentación equivalente no pueden servir. Nuestros casos ilustran este valor en cuatro registros de los sectores regulados.
Las decisiones vinculantes en los servicios financieros.
Bancos, aseguradoras, gestoras de activos, plataformas de pago: las direcciones de cumplimiento afrontan exigencias crecientes de trazabilidad metodológica, de la ACPR y la AMF a sus equivalentes internacionales. Nuestra trazabilidad les permite documentar con precisión la metodología de los sistemas desplegados: scoring, detección de fraude, ayuda a la decisión de concesión, segmentación de clientes.
Las decisiones vinculantes en la salud.
Establecimientos de salud, laboratorios farmacéuticos, mutuas, autoridades sanitarias: los actores de la salud responden a exigencias específicas, de la HAS y la ANSM a sus equivalentes internacionales. Nuestra trazabilidad permite la validación metodológica de los asuntos sensibles: políticas de salud pública, campañas de prevención, evaluación de productos sanitarios, impacto de políticas terapéuticas.
Las decisiones vinculantes en el sector público.
Ministerios, autoridades independientes, operadores públicos, entidades territoriales: los actores públicos están sometidos a los controles parlamentarios, a los tribunales administrativos y a los organismos de control independientes. Un ministro que defiende una política iluminada por nuestros trabajos dispone de una documentación metodológica auditable línea a línea por la representación parlamentaria o por un relator independiente.
Los despliegues de sistemas de IA de alto riesgo en el sentido del AI Act.
Las organizaciones que despliegan sistemas de IA clasificados de alto riesgo en el sentido del AI Act están sometidas a obligaciones específicas de documentación técnica, de trazabilidad y de auditabilidad. Nuestra trazabilidad regulatoria constituye la base documental que permite satisfacer estas exigencias, sin procedimiento ad hoc y sin sobrecoste metodológico.
¿Su sector exige una trazabilidad regulatoria estructural?
Direcciones de cumplimiento sectorial, comités éticos internos, direcciones jurídicas, direcciones de auditoría interna: nuestro equipo puede facilitarle la documentación detallada de nuestra trazabilidad regulatoria, los protocolos de auditoría externa independiente que aceptamos, las cláusulas contractuales estándar sobre la puesta a disposición de elementos técnicos a las autoridades de tutela, y las modalidades de demostración de conformidad frente al AI Act europeo. La trazabilidad regulatoria es un compromiso contractual oponible: no un argumento comercial.
Ver la gobernanza ética →