LUCHA CONTRA EL FRAUDE · CASO ASEGURADORA DE SALUD EUROPEA
«¿Cómo diseñar un sistema de IA predictiva para identificar los perfiles de riesgo de fraude sin discriminar a los clientes legítimos ni exponer a la aseguradora a un riesgo reputacional?»
Caso realizado para una aseguradora de salud europea frente a un proyecto de IA predictiva de alto reto ético y reputacional.
EL CONTEXTO
Una innovación tecnológica de alto reto: en un terreno ético y reputacional sensible.
Una aseguradora de salud europea, 4,8 millones de asegurados, presencia en 7 países, posicionamiento premium en el mercado del seguro complementario de salud, preparaba el despliegue de un sistema de IA predictiva para identificar los perfiles de riesgo de fraude en los reembolsos de la atención sanitaria. El coste anual del fraude en los reembolsos se estimaba en 82 millones de euros para la aseguradora, con una progresión del 8 % anual impulsada por la sofisticación creciente de los montajes fraudulentos (recetas falsas, sobrefacturación de proveedores, redes organizadas de fraude documental, usurpación de identidad). Los controles clásicos, la verificación manual por los gestores, el control por muestreo aleatorio, las alertas de reglas simples, estaban desbordados por el volumen y la sofisticación de los casos.
La aseguradora había desarrollado un modelo de IA predictiva capaz de identificar los reembolsos de alto riesgo de fraude a partir de varios cientos de variables de comportamiento y transaccionales. El modelo había sido validado técnicamente: sensibilidad y especificidad conformes a las expectativas de la dirección de riesgos, con una precisión proyectada del 78 % en la identificación de los casos fraudulentos. El despliegue estaba previsto en tres olas en 18 meses. Quedaba por decidir los parámetros operativos: los umbrales de activación de los controles, los procedimientos de investigación, el procedimiento de información de los asegurados marcados, la gobernanza ética, el procedimiento de recurso para los casos de falsos positivos.
El riesgo percibido por la dirección general era doble. Un riesgo operativo: un sistema demasiado laxo no capturaría los fraudes reales y no justificaría la inversión. Un riesgo reputacional y ético: un sistema demasiado estricto discriminaría a los asegurados legítimos, generaría falsos positivos mal vividos y expondría a la aseguradora a cuestionamientos mediáticos y asociativos sobre la discriminación algorítmica. Los precedentes en otros sectores (banca, ayuda social, control fiscal automatizado) habían mostrado que los sistemas de IA predictiva mal calibrados podían desencadenar crisis reputacionales mayores, con costes duraderos sobre la marca y sobre la confianza de los clientes legítimos.
Fue en ese momento cuando el director de riesgos y el director de cumplimiento movilizaron nuestro sistema. El brief era probar once configuraciones del sistema predictivo sobre la población real de los asegurados, con una proyección a 24 meses de los impactos operativos (fraudes capturados, ahorros realizados) y reputacionales (falsos positivos, satisfacción de los asegurados, exposición mediática). La solicitud incluía un análisis fino de las tipologías de asegurados susceptibles de ser injustamente impactadas y una identificación de los parámetros con el impacto ético más determinante. El resultado se esperaba en cinco semanas, antes de la validación final por el comité ético de la aseguradora.
LA INVESTIGACIÓN
Seis insights que recompusieron el sistema predictivo.
Los falsos positivos no están simétricamente repartidos en la población asegurada.
Los falsos positivos, asegurados legítimos marcados por error, no se reparten aleatoriamente en la población. Se concentran en tres tipologías específicas: los asegurados con patologías crónicas raras y recorridos de atención atípicos por necesidad médica, los asegurados que han cambiado recientemente de situación profesional o familiar con variaciones transaccionales importantes, y los asegurados seniors con consumos de atención elevados y variados. Estas tres tipologías representan el 8 % de la población asegurada pero el 62 % de los falsos positivos generados por el modelo. Un sistema genérico amplifica estructuralmente la discriminación sobre esas poblaciones. Un dispositivo ajustado con umbrales diferenciados por tipología reduce los falsos positivos del 62 % al 18 % en esas poblaciones sensibles, sin degradar la detección de los fraudes reales.
La información al asegurado marcado cambia fundamentalmente la percepción del sistema.
Se probaron tres modalidades de información al asegurado marcado. La ausencia de información (el asegurado no sabe que ha sido marcado, el control se conduce internamente sin notificación) genera un 34 % de satisfacción si el control se resuelve favorablemente y un 12 % en caso de rechazo del reembolso. La información contextualizada (el asegurado es informado de que un control estándar está en curso sobre su expediente, sin precisión sobre la naturaleza algorítmica del sistema) genera un 58 % de satisfacción en caso de resolución favorable y un 34 % en caso de rechazo. La información transparente (el asegurado es informado del sistema algorítmico, del motivo específico del marcado y del derecho de recurso) genera un 72 % de satisfacción en caso de resolución favorable y un 51 % en caso de rechazo. La transparencia cuesta menos en satisfacción que la opacidad, contraintuitivamente.
El procedimiento de recurso humano cuenta más que la precisión algorítmica.
El efecto del procedimiento de recurso humano fue aislado del resto del sistema predictivo. Un sistema predictivo con un 78 % de precisión sin procedimiento de recurso humano (resolución automatizada del marcado, sin intervención humana posible) genera un 24 % de satisfacción media. El mismo sistema con un 78 % de precisión y un procedimiento de recurso humano formalizado (un gestor humano sistemáticamente asociado, un recurso accesible en 15 días, con una explicación motivada en caso de rechazo) genera un 68 % de satisfacción media: un diferencial de 44 pts. El algoritmo no puede ser la instancia de decisión final: debe seguir siendo una asistencia a la decisión humana. Esta exigencia de gobernanza humana es estructural para preservar la confianza de los asegurados legítimos.
Los umbrales diferenciados por tipología son más rentables operativamente.
Se compararon dos estrategias de calibración de los umbrales: un umbral único aplicado a toda la población, y umbrales diferenciados por tipología. Un umbral único maximiza la captura de los fraudes pero genera un volumen importante de falsos positivos en las tipologías sensibles, con un coste de tratamiento humano elevado y un riesgo reputacional mayor. Unos umbrales diferenciados por tipología de población, más permisivos en las 3 tipologías sensibles identificadas, más estrictos en las tipologías neutras, preservan la captura de los fraudes reduciendo al mismo tiempo los falsos positivos en un 62 %. El coste operativo de tratamiento humano baja un 34 %. El riesgo reputacional proyectado baja un 78 %. La diferenciación por tipología no es un compromiso ético: es una optimización operativa y ética simultánea.
El comité ético debe preceder al despliegue, no seguir a las crisis.
Se modelizaron las trayectorias reputacionales según la gobernanza ética asociada. Un sistema desplegado sin gobernanza ética formalizada, con la constitución de un comité ético después de las primeras crisis, sufre una trayectoria reputacional negativa duradera: una pérdida de 12 a 18 pts de confianza de los asegurados en los 12 meses siguientes a la primera crisis, sin reconstitución completa a 24 meses. Un sistema precedido de una gobernanza ética formalizada (un comité ético constituido antes del despliegue, la publicación de la carta ética, un control independiente, un informe anual público sobre los indicadores de sesgo y de falsos positivos) preserva la confianza de los asegurados en el 88 % de los escenarios de crisis probados. La gobernanza ética previa cuesta poco y aporta mucho en resiliencia reputacional.
El ajuste continuo del modelo evita la deriva algorítmica.
Los modelos de IA predictiva derivan estructuralmente en el tiempo: esa deriva fue modelizada en 24 meses de explotación. Sin un mecanismo de ajuste continuo (el modelo se despliega una vez, sin reevaluación regular), los indicadores de sesgo y de falsos positivos se degradan progresivamente a partir del duodécimo mes, con una aceleración hacia el vigésimo cuarto. Esta deriva es estructural: las poblaciones evolucionan, las tipologías transaccionales cambian, los montajes fraudulentos se adaptan. Un mecanismo de ajuste continuo (reevaluación trimestral de los indicadores de sesgo, reentrenamiento del modelo con datos recientes, auditoría anual por un tercero independiente) preserva el rendimiento y la conformidad ética en la duración. Este mecanismo cuesta en torno al 8 % del coste anual del sistema predictivo, por una preservación del 100 % de su valor operativo y reputacional.
EL MÉTODO
Cómo construimos la investigación.
Se reconstruyó una población sintética de 2,2 millones de asegurados de salud europeos, calibrada sobre los datos públicos (INSEE, la dirección francesa de investigación y estadísticas sanitarias, los datos abiertos del sector asegurador) y los datos propietarios de la aseguradora (tipologías de asegurados, historial de consumo de atención, historial de fraudes documentados, estructura demográfica). La población se estructuró en 17 tipologías de relación con el seguro y el control, cruzando la edad, la estructura familiar, el estado de salud crónico o agudo, la sensibilidad a los controles, la experiencia anterior de interacciones administrativas y el nivel de confianza en las instituciones. Ningún dato nominativo entró en el sistema.
Sobre esta población de base, se entrevistó individualmente a 5.200 asegurados sintéticos, repartidos proporcionalmente en las 17 tipologías. Cada asegurado fue sometido a las once configuraciones del sistema predictivo probadas, acopladas a diferentes modalidades de información y de recurso. Los agentes dinámicos condujeron entrevistas de cualificación en profundidad repreguntando a cada asegurado sobre los puntos de inflexión identificados en tiempo real: la percepción de un control, el sentimiento de sospecha injusta, la satisfacción ante el procedimiento de recurso, la exposición a la idea de un algoritmo predictivo. Estas entrevistas permitieron cualificar los umbrales precisos a partir de los cuales la satisfacción del asegurado bascula hacia el rechazo del sistema.
Las trayectorias operativas (fraudes capturados, ahorros realizados, costes de tratamiento) y reputacionales (satisfacción de los asegurados, exposición mediática, riesgo asociativo) se proyectaron después a 24 meses para cada configuración. Esta proyección produjo 187 trayectorias distintas por configuración, con la identificación de los puntos de inflexión operativos y de los umbrales de crisis reputacional. La estrategia umbrales diferenciados por tipología + información transparente + procedimiento de recurso humano formalizado + gobernanza ética previa + ajuste continuo del modelo emergió como dominante, con un diferencial de +34 % de ahorros realizados y −78 % de riesgo reputacional respecto a la configuración inicialmente contemplada.
EL DESPLIEGUE
Lo que se decidió, lo que ocurrió.
El comité ético de la aseguradora, reunido específicamente para la validación, retuvo la configuración dominante identificada por nuestro sistema, con una adaptación que refuerza la gobernanza. Umbrales diferenciados por tipología de población, información transparente a cada asegurado marcado con explicación motivada, procedimiento de recurso humano accesible en 15 días con un gestor especialmente formado, comité ético permanente constituido antes del despliegue con representación de asociaciones de usuarios de la salud, carta ética publicada en el sitio de la aseguradora, auditoría externa anual por un gabinete independiente, e informe anual público sobre los indicadores de sesgo y de falsos positivos. El despliegue se faseó en 18 meses en tres olas, con un mecanismo de ajuste continuo del modelo basado en los indicadores medidos en tiempo real.
El despliegue comenzó diez meses después de la decisión del comité ético, una vez formados los 240 gestores concernidos y calibrado el procedimiento de información a los asegurados. La primera ola cubrió el 30 % de los reembolsos durante 6 meses, con un seguimiento reforzado de los indicadores de sesgo y de falsos positivos. Los resultados de la primera ola confirmaron las proyecciones de nuestro sistema: una tasa de captura de los fraudes conforme, una tasa de falsos positivos en las tipologías sensibles conforme a las proyecciones diferenciadas, una satisfacción de los asegurados superior a las proyecciones. La segunda ola cubrió el 60 % de los reembolsos durante 6 meses. La tercera ola cubrió el 100 %. Un solo caso de crisis mediática local emergió en la primera ola, resuelto por el procedimiento de recurso en 3 semanas sin amplificación.
A 18 meses del despliegue completo, los resultados consolidados validan la robustez del sistema. Los ahorros realizados sobre el fraude alcanzan 62 millones de euros anualizados (por encima de la proyección de 54 millones), es decir, el 76 % del fraude estimado capturado. La tasa de falsos positivos en las tipologías sensibles está en el 4,2 % (en línea con la proyección). La satisfacción de los asegurados tras el control está en el 71 % (por encima de la proyección del 68 %). La tasa de utilización del procedimiento de recurso está en el 8 % de los casos marcados, con una tasa de inversión del 34 % (el algoritmo es revisado por el gestor humano en el 34 % de los recursos, lo que mejora continuamente el modelo por aprendizaje). La aseguradora ha comunicado su sistema como referencia metodológica ante el regulador europeo y ha sido referenciada en un informe parlamentario sobre la IA ética en el seguro. Ningún cuestionamiento mediático o asociativo significativo emergió en el periodo.
- AHORROS ANUALES SOBRE EL FRAUDE
- 62 M€por encima de los 54 M€ proyectados
- TASA DE FALSOS POSITIVOS EN LAS TIPOLOGÍAS SENSIBLES
- 62 % → 4,2 %vs la configuración inicial
- SATISFACCIÓN DE LOS ASEGURADOS TRAS EL CONTROL
- 71 %por encima del 68 % proyectado
- RIESGO REPUTACIONAL PROYECTADO EVITADO
- −78 %vs la configuración inicial
- TASA DE INVERSIÓN VÍA RECURSO HUMANO
- 34 %aprendizaje continuo del modelo
- RATIO INVERSIÓN EN SIMULACIÓN VS AHORROS
- 1 : 178
LAS LECCIONES
Tres principios transponibles a los sistemas de IA predictiva de alto reto ético.
Los falsos positivos no están simétricamente repartidos: su concentración en ciertas tipologías es el verdadero reto ético.
Este caso confirmó una dinámica estructural de los sistemas de IA predictiva: los errores algorítmicos no se reparten aleatoriamente en la población. Se concentran en tipologías específicas, a menudo las más vulnerables o las más atípicas respecto a la población mediana. Esa concentración es el verdadero reto ético: no la tasa de error global sino su desigual reparto. La respuesta no puede ser una mejora general de la precisión. Debe ser una diferenciación asumida de los umbrales por tipología, con una gobernanza transparente de esa diferenciación. Este principio vale más allá del seguro de salud: vale para los sistemas predictivos en banca, en ayuda social, en control fiscal, en reclutamiento automatizado y en scoring de crédito.
La transparencia sobre el sistema algorítmico cuesta menos que la opacidad: contraintuitivamente.
Este caso mostró que la información transparente al asegurado sobre el sistema algorítmico (la naturaleza del modelo, el motivo del marcado, el derecho de recurso) generaba una satisfacción superior a la opacidad, incluso en caso de rechazo del reembolso. La transparencia se percibe como un respeto debido al asegurado; la opacidad se percibe como una sospecha ilegítima. Este principio contradice la intuición comercial clásica que privilegia el silencio sobre los controles. Implica una comunicación proactiva y pedagógica sobre los sistemas de IA predictiva utilizados, con explicación motivada en caso de marcado. Vale para todos los sectores que despliegan sistemas predictivos sobre su clientela.
La gobernanza ética previa es una inversión de resiliencia reputacional, no una restricción administrativa.
Este caso mostró que un sistema de IA predictiva precedido de una gobernanza ética formalizada (comité ético, carta pública, auditoría externa, informe público) preservaba la confianza de los clientes en el 88 % de los escenarios de crisis. Un sistema desplegado sin gobernanza ética previa sufre una trayectoria reputacional negativa duradera en caso de crisis. La gobernanza ética previa cuesta poco respecto a los riesgos reputacionales evitados. Este principio vale para todos los despliegues de IA de alto reto: seguro, banca, recursos humanos, control fiscal, ayuda social, movilidad, justicia predictiva. Implica una gobernanza ética diseñada antes del despliegue, no añadida en reacción a las primeras crisis.
EMPEZAR
¿Prepara usted un sistema de IA predictiva de alto reto ético?
Los sistemas de IA predictiva de alto reto ético, scoring de riesgo en seguros, detección de fraude fiscal, IA predictiva en ayuda social, sistemas predictivos de reclutamiento, scoring bancario, comparten mecánicas comunes con este caso. Concentración asimétrica de los falsos positivos en las tipologías sensibles, peso de la transparencia sobre el sistema, necesidad de un procedimiento de recurso humano, valor de la gobernanza ética previa, exigencia de ajuste continuo del modelo. Cada sistema es singular, pero las palancas de análisis ético y operativo son transponibles.
Los agentes dinámicos delimitan con usted los parámetros de una simulación adaptada a su situación, antes de la decisión. Del brief inicial al primer entregable, cuente entre 20 y 30 minutos, según la complejidad del caso y el alcance de las poblaciones a modelizar.