SÉCURITÉ · GOUVERNANCE ÉTHIQUE
Une gouvernance éthique
Quatre principes structurants, des instances de gouvernance opérationnelles, un positionnement clair face à l'AI Act européen entré en vigueur en 2024-2025. Ni déni éthique, ni affichage disproportionné : une gouvernance opposable, documentée, et articulée à la nature de notre produit.
LE POSITIONNEMENT ÉTHIQUE
La gouvernance éthique entre deux excès également problématiques.
La gouvernance éthique des systèmes d'IA bascule souvent dans deux excès. Le déni éthique traite la gouvernance comme un supplément d'âme sans mécanisme concret, démuni face aux exigences croissantes des directions de la conformité. L'affichage disproportionné multiplie comités et chartes sans commune mesure avec l'activité réelle, frôlant la posture morale sans traduction opérationnelle.
Notre gouvernance se situe entre ces deux excès, proportionnée à notre activité réelle. Nous ne portons pas les enjeux les plus lourds de l'IA (systèmes autonomes létaux, IA générale, manipulation cognitive de masse), mais nos populations synthétiques éclairent des décisions engageantes, avec des conséquences potentielles sur des politiques publiques et des populations vulnérables. Cette réalité intermédiaire appelle une gouvernance calibrée sur quatre principes structurants et un positionnement clair face à l'AI Act européen, entré en vigueur en 2024-2025.
NOS QUATRE PRINCIPES ÉTHIQUES
Structurants, opérationnels, opposables.
Premier principe : Nos outils augmentent la lucidité du décideur, ils ne remplacent pas sa responsabilité.
Notre système d'intelligence décisionnelle par population synthétique produit des insights, des scénarios comparés, des points de bascule identifiés. Il ne prend pas la décision à la place du décideur. Cette distinction n'est pas rhétorique : elle est structurante pour nos livrables et pour nos protocoles de mission. Une organisation qui déléguerait ses décisions engageantes à un système de simulation, quel qu'il soit, commettrait une faute méthodologique et politique majeure. Nous accompagnons la décision humaine : nous ne nous y substituons pas.
Deuxième principe : Aucune conclusion sans son raisonnement.
La traçabilité intégrale de nos résultats est structurellement adossée à notre architecture Explainable AI, décrite en détail sur la page dédiée de la rubrique Produit. Cette traçabilité n'est pas seulement une garantie commerciale : elle est un principe éthique fondamental. Un système qui produirait des conclusions engageantes sans permettre à leurs destinataires d'auditer les raisonnements sous-jacents serait éthiquement intenable. Notre traçabilité intégrale, depuis les insights restitués jusqu'aux entretiens individuels producteurs, est notre réponse structurelle à cette exigence éthique.
Troisième principe : Le refus de missions structurellement contraires à nos valeurs.
Toutes les missions ne se valent pas éthiquement. Nous nous réservons le droit de refuser des missions dont l'objet nous semble structurellement contraire à nos valeurs : préparation de mécanismes discriminatoires envers des populations vulnérables sans correctifs, préparation de manipulations politiques de masse, préparation de désinformation organisée. Ce droit de refus est encadré par notre comité éthique et documenté dans nos procédures internes. Il a été exercé dans plusieurs configurations depuis notre création.
Quatrième principe : La responsabilité de nos clients dans l'usage des résultats.
Nous restituons à nos clients des insights, des scénarios, des trajectoires projetées. Ce qu'ils font ensuite de ces éléments relève de leur propre responsabilité éthique. Nous accompagnons la restitution par des recommandations méthodologiques et par des mises en garde lorsque nous identifions des usages potentiellement problématiques. Nous ne pouvons pas contrôler ex post l'usage de nos livrables par nos clients, mais nous documentons clairement, ex ante, les cadres éthiques dans lesquels ils s'inscrivent.
NOS INSTANCES DE GOUVERNANCE
Trois instances opérationnelles, mobilisées dans nos décisions engageantes.
Notre comité éthique.
Notre comité éthique examine les missions à enjeux structurants : politiques publiques touchant des populations vulnérables, détection algorithmique susceptible de discriminer, crises réputationnelles moralement contestables, restructurations affectant des collaborateurs. Son protocole est structuré : qualification des enjeux, identification des risques, garanties méthodologiques requises, décision d'acceptation, de refus ou d'acceptation sous conditions. Ses décisions sont documentées et opposables.
Notre protocole de qualification éthique des missions.
Toute mission engageante est qualifiée éthiquement en phase de cadrage, avant contractualisation, sur cinq dimensions : nature des populations concernées, nature des décisions préparées, nature des commanditaires, configuration des livrables attendus, cadre juridique applicable. Cette qualification structure la conduite de la mission et détermine les garanties méthodologiques mobilisées.
Nos procédures de contestation contradictoire.
Lorsqu'une mission produit des résultats susceptibles d'être contestés par des tiers, associations, syndicats, contre-experts, autorités de tutelle, nous mobilisons des protocoles de contestation contradictoire : accès aux chemins de raisonnement, contestation méthodologique des insights, lectures alternatives des mêmes données. Notre traçabilité intégrale rend cette contestation structurellement possible.
LA GOUVERNANCE ÉTHIQUE EN ACTION
LUTTE CONTRE LA FRAUDE
Concevoir une IA prédictive de détection de fraude sans discrimination algorithmique.
Ce cas illustre notre gouvernance éthique dans sa mobilisation la plus structurante. Un assureur santé européen préparait le déploiement d'une IA prédictive de détection de fraude qui aurait pu, mal calibrée, discriminer structurellement des typologies d'assurés vulnérables. La mission a été qualifiée par notre comité éthique comme structurellement engageante : nature vulnérable des populations concernées, nature discriminante potentielle des décisions préparées, nature régulée du commanditaire. Cette qualification a déclenché des garanties méthodologiques renforcées : traçabilité intégrale des chemins de raisonnement, validation par référence croisée avec les études sociologiques publiques sur les inégalités d'accès aux soins, protocole d'audit externe indépendant intégré. Ces garanties ont permis au comité éthique de l'assureur d'approuver le déploiement final, et à un audit externe indépendant de remonter chaque conclusion jusqu'aux entretiens individuels producteurs. Sans notre gouvernance éthique structurelle, cette mission n'aurait pas pu être conduite.
Lire le cas complet →NOTRE POSITIONNEMENT RÉGLEMENTAIRE
Face à l'AI Act européen entré en vigueur en 2024-2025.
Le Règlement européen sur l'intelligence artificielle, AI Act, adopté définitivement en 2024 et entré en application progressivement à partir de 2025 constitue le premier cadre réglementaire complet au monde sur les systèmes d'intelligence artificielle. Il classe les systèmes par niveau de risque et impose des obligations différenciées. Notre positionnement dans cette classification est structurant pour nos clients qui doivent s'assurer que les prestataires qu'ils mobilisent sont conformes.
Notre classification dans l'AI Act.
Nos systèmes d'intelligence décisionnelle par population synthétique relèvent, selon les cas d'usage, des catégories systèmes à risque limité (obligations de transparence renforcée) ou systèmes à haut risque (obligations renforcées incluant traçabilité, gouvernance, audit externe, gestion des risques). Cette classification varie selon la nature des décisions préparées, les populations concernées, et les acteurs commanditaires. Elle est documentée au cas par cas dans nos contrats et fait l'objet d'une analyse spécifique lors de la qualification éthique de chaque mission engageante.
Nos obligations au titre de l'AI Act.
Nous assumons structurellement les obligations qui découlent de notre classification : transparence sur la nature de nos systèmes, traçabilité des raisonnements (adossée à notre architecture Explainable AI), gouvernance des risques (adossée à nos instances de gouvernance éthique), acceptation d'audits externes indépendants. Ces obligations ne sont pas des contraintes que nous subissons : elles sont cohérentes avec notre positionnement méthodologique structurel et avec les principes éthiques que nous portons.
Notre accompagnement des directions de la conformité.
Les directions juridiques et directions de la conformité de nos clients grands comptes préparent activement leurs organisations à la mise en conformité AI Act. Nous accompagnons cette préparation en fournissant la documentation détaillée requise : classification de nos systèmes selon les catégories AI Act, documentation de nos instances de gouvernance mobilisées, protocoles d'audit externe disponibles, clauses contractuelles spécifiques compatibles avec les exigences AI Act. Cette documentation est fournie sur demande aux directions concernées.
Votre direction de la conformité prépare votre mise en conformité AI Act ?
Nos analyses de classification de nos systèmes selon les catégories AI Act, la documentation de nos instances de gouvernance, nos protocoles d'audit externe disponibles, nos clauses contractuelles spécifiques compatibles avec les exigences AI Act : tous ces éléments sont disponibles pour les directions juridiques, directions de la conformité et responsables achats grands comptes qui préparent leur mise en conformité. Notre équipe peut organiser une session dédiée avec vos experts internes.
Voir notre sécurité opérationnelle →