SEGURIDAD · GOBERNANZA ÉTICA
Una gobernanza ética
Cuatro principios estructurantes, instancias de gobernanza operativas, un posicionamiento claro frente al AI Act europeo en vigor desde 2024-2025. Ni negación ética, ni escaparate desproporcionado: una gobernanza oponible, documentada y articulada con la naturaleza de nuestro producto.
EL POSICIONAMIENTO ÉTICO
La gobernanza ética entre dos excesos igualmente problemáticos.
La gobernanza ética de los sistemas de IA cae a menudo en dos excesos. La negación ética trata la gobernanza como un adorno moral sin mecanismo concreto, desarmada frente a las exigencias crecientes de las direcciones de cumplimiento. El escaparate desproporcionado multiplica comités y cartas éticas sin proporción con la actividad real, rozando la postura moral sin traducción operativa.
Nuestra gobernanza se sitúa entre esos dos excesos, proporcionada a nuestra actividad real. No cargamos con los retos más pesados de la IA (sistemas autónomos letales, IA general, manipulación cognitiva masiva), pero nuestras poblaciones sintéticas iluminan decisiones vinculantes, con consecuencias potenciales sobre políticas públicas y poblaciones vulnerables. Esta realidad intermedia exige una gobernanza calibrada sobre cuatro principios estructurantes y un posicionamiento claro frente al AI Act europeo, en vigor desde 2024-2025.
NUESTROS CUATRO PRINCIPIOS ÉTICOS
Estructurantes, operativos, oponibles.
Primer principio: Nuestras herramientas aumentan la lucidez del decisor, no reemplazan su responsabilidad.
Nuestro sistema de inteligencia de decisiones por población sintética produce insights, escenarios comparados, puntos de inflexión identificados. No toma la decisión en lugar del decisor. Esta distinción no es retórica: es estructurante para nuestros entregables y para nuestros protocolos de misión. Una organización que delegara sus decisiones vinculantes en un sistema de simulación, cualquiera que fuese, cometería una falta metodológica y política mayor. Acompañamos la decisión humana: no la sustituimos.
Segundo principio: Ninguna conclusión sin su razonamiento.
La trazabilidad integral de nuestros resultados se apoya estructuralmente en nuestra arquitectura Explainable AI, descrita en detalle en la página dedicada de la sección Producto. Esta trazabilidad no es solo una garantía comercial: es un principio ético fundamental. Un sistema que produjera conclusiones vinculantes sin permitir a sus destinatarios auditar los razonamientos subyacentes sería éticamente insostenible. Nuestra trazabilidad integral, desde los insights restituidos hasta las entrevistas individuales que los producen, es nuestra respuesta estructural a esta exigencia ética.
Tercer principio: El rechazo de misiones estructuralmente contrarias a nuestros valores.
No todas las misiones son éticamente equivalentes. Nos reservamos el derecho de rechazar misiones cuyo objeto nos parezca estructuralmente contrario a nuestros valores: preparación de mecanismos discriminatorios hacia poblaciones vulnerables sin correctivos, preparación de manipulaciones políticas masivas, preparación de desinformación organizada. Este derecho de rechazo está encuadrado por nuestro comité ético y documentado en nuestros procedimientos internos. Se ha ejercido en varias configuraciones desde nuestra creación.
Cuarto principio: La responsabilidad de nuestros clientes en el uso de los resultados.
Restituimos a nuestros clientes insights, escenarios, trayectorias proyectadas. Lo que hagan después con esos elementos pertenece a su propia responsabilidad ética. Acompañamos la restitución con recomendaciones metodológicas y con advertencias cuando identificamos usos potencialmente problemáticos. No podemos controlar ex post el uso de nuestros entregables por nuestros clientes, pero documentamos claramente, ex ante, los marcos éticos en los que se inscriben.
NUESTRAS INSTANCIAS DE GOBERNANZA
Tres instancias operativas, movilizadas en nuestras decisiones vinculantes.
Nuestro comité ético.
Nuestro comité ético examina las misiones con implicaciones estructurales: políticas públicas que afectan a poblaciones vulnerables, detección algorítmica susceptible de discriminar, crisis reputacionales moralmente cuestionables, reestructuraciones que afectan a los colaboradores. Su protocolo está estructurado: calificación de los retos, identificación de los riesgos, garantías metodológicas requeridas, decisión de aceptación, de rechazo o de aceptación bajo condiciones. Sus decisiones están documentadas y son oponibles.
Nuestro protocolo de calificación ética de las misiones.
Toda misión sensible se califica éticamente en fase de encuadre, antes de la contratación, sobre cinco dimensiones: naturaleza de las poblaciones concernidas, naturaleza de las decisiones preparadas, naturaleza de los mandantes, configuración de los entregables esperados, marco jurídico aplicable. Esta calificación estructura la conducción de la misión y determina las garantías metodológicas movilizadas.
Nuestros procedimientos de impugnación contradictoria.
Cuando una misión produce resultados susceptibles de ser impugnados por terceros, asociaciones, sindicatos, contraexpertos, autoridades de supervisión, movilizamos protocolos de impugnación contradictoria: acceso a los caminos de razonamiento, impugnación metodológica de los insights, lecturas alternativas de los mismos datos. Nuestra trazabilidad integral hace esta impugnación estructuralmente posible.
LA GOBERNANZA ÉTICA EN ACCIÓN
LUCHA CONTRA EL FRAUDE
Diseñar una IA predictiva de detección de fraude sin discriminación algorítmica.
Este caso ilustra nuestra gobernanza ética en su movilización más estructurante. Una aseguradora de salud europea preparaba el despliegue de una IA predictiva de detección de fraude que habría podido, mal calibrada, discriminar estructuralmente a tipologías de asegurados vulnerables. La misión fue calificada por nuestro comité ético como estructuralmente sensible: naturaleza vulnerable de las poblaciones concernidas, naturaleza potencialmente discriminante de las decisiones preparadas, naturaleza regulada del mandante. Esta calificación activó garantías metodológicas reforzadas: trazabilidad integral de los caminos de razonamiento, validación por referencia cruzada con los estudios sociológicos públicos sobre las desigualdades de acceso a la asistencia sanitaria, protocolo de auditoría externa independiente integrado. Estas garantías permitieron al comité ético de la aseguradora aprobar el despliegue final, y a una auditoría externa independiente remontar cada conclusión hasta las entrevistas individuales que la produjeron. Sin nuestra gobernanza ética estructural, esta misión no habría podido conducirse.
Leer el caso completo →NUESTRO POSICIONAMIENTO REGLAMENTARIO
Frente al AI Act europeo en vigor desde 2024-2025.
El Reglamento Europeo de Inteligencia Artificial, AI Act, adoptado definitivamente en 2024 y en aplicación progresiva desde 2025, constituye el primer marco reglamentario completo del mundo sobre los sistemas de inteligencia artificial. Clasifica los sistemas por nivel de riesgo e impone obligaciones diferenciadas. Nuestro posicionamiento en esta clasificación es estructurante para nuestros clientes, que deben asegurarse de que los proveedores que movilizan son conformes.
Nuestra clasificación en el AI Act.
Nuestros sistemas de inteligencia de decisiones por población sintética entran, según los casos de uso, en las categorías sistemas de riesgo limitado (obligaciones de transparencia reforzada) o sistemas de alto riesgo (obligaciones reforzadas que incluyen trazabilidad, gobernanza, auditoría externa, gestión de riesgos). Esta clasificación varía según la naturaleza de las decisiones preparadas, las poblaciones concernidas y los mandantes. Se documenta caso por caso en nuestros contratos y es objeto de un análisis específico durante la calificación ética de cada misión sensible.
Nuestras obligaciones en virtud del AI Act.
Asumimos estructuralmente las obligaciones que se derivan de nuestra clasificación: transparencia sobre la naturaleza de nuestros sistemas, trazabilidad de los razonamientos (apoyada en nuestra arquitectura Explainable AI), gobernanza de los riesgos (apoyada en nuestras instancias de gobernanza ética), aceptación de auditorías externas independientes. Estas obligaciones no son restricciones que padecemos: son coherentes con nuestro posicionamiento metodológico estructural y con los principios éticos que defendemos.
Nuestro acompañamiento de las direcciones de cumplimiento.
Las direcciones jurídicas y las direcciones de cumplimiento de nuestros clientes de grandes cuentas preparan activamente sus organizaciones para la adecuación al AI Act. Acompañamos esta preparación facilitando la documentación detallada requerida: clasificación de nuestros sistemas según las categorías del AI Act, documentación de nuestras instancias de gobernanza movilizadas, protocolos de auditoría externa disponibles, cláusulas contractuales específicas compatibles con las exigencias del AI Act. Esta documentación se facilita bajo petición a las direcciones concernidas.
¿Su dirección de cumplimiento prepara su adecuación al AI Act?
Nuestros análisis de clasificación de nuestros sistemas según las categorías del AI Act, la documentación de nuestras instancias de gobernanza, nuestros protocolos de auditoría externa disponibles, nuestras cláusulas contractuales específicas compatibles con las exigencias del AI Act: todos estos elementos están disponibles para las direcciones jurídicas, direcciones de cumplimiento y responsables de compras de grandes cuentas que preparan su adecuación. Nuestro equipo puede organizar una sesión dedicada con sus expertos internos.
Ver nuestra seguridad operativa →