Construire des modèles d'assurance équitables et conformes

# Construire des modèles d'assurance équitables et conformes

Un assureur auto de taille moyenne développe un nouveau modèle de tarification bien ficelé. Il n'utilise jamais la race. Jamais l'ethnicité. Il passe la revue interne. Puis un régulateur d'État le rejette, parce que le modèle s'appuie fortement sur le code postal, et que dans cet État le code postal est étroitement corrélé à la race. L'assureur a construit par accident une machine à discriminer.

Cela s'appelle la discrimination par proxy : utiliser une variable d'apparence neutre qui tient lieu de caractéristique protégée. C'est l'un des moyens les plus rapides de faire tuer un modèle de tarification IA en 2026, et l'un des pièges les plus faciles à éviter... quand on sait le voir.

Apprenons à le repérer, à le tester, et à construire des modèles qui survivent à l'examen réglementaire.

Pourquoi l'assurance est un cas à part

La plupart des secteurs peuvent fixer leurs prix comme ils l'entendent. Pas l'assurance.

Aux États-Unis, l'assurance est régulée au niveau de l'État (il n'existe pas de régulateur fédéral unique de l'assurance). Chacun des 50 États a son propre département des assurances, et les tarifs de nombreuses branches (auto, habitation, santé) doivent être déposés et parfois approuvés au préalable. Le principe directeur : les tarifs ne peuvent pas être « unfairly discriminatory ».

La formule est ancienne, mais le sens est net. Vous avez le droit de faire payer davantage un conducteur risqué. Vous n'avez pas le droit de faire payer davantage quelqu'un en raison d'une caractéristique protégée (race, religion, origine nationale, et dans de nombreux États le sexe, et de plus en plus les proxies fondés sur le crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit).

La tension : les modèles d'IA sont extrêmement bons pour trouver des motifs, y compris ceux qui remontent aux caractéristiques protégées par la petite porte.

Deux types de discrimination

Les régulateurs distinguent deux notions. Ne les confondez pas.

Le disparate treatment est intentionnel. Vous utilisez explicitement une variable protégée. Facile à éviter, facile à détecter.

Le disparate impact est une règle neutre qui produit des résultats inégaux entre groupes protégés. C'est le cas difficile. Votre modèle ne voit jamais la race, et pourtant ses prédictions pèsent plus lourd sur un groupe.

L'exemple du code postal est un cas d'école de disparate impact. Aucune intention. Un préjudice réel.

Le problème des proxies en une image

Prenez les variables qu'un modèle auto peut utiliser :

• Code postal (proxy de la race, du revenu, du quartier)
• Score d'assurance fondé sur le crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit (proxy du revenu, parfois de la race)
• Profession (proxy du niveau d'études, du revenu)
• Type d'assurance antérieure (proxy du patrimoine)

Aucune ne mentionne une caractéristique protégée. Ensemble, elles peuvent en reconstituer une avec une précision surprenante. Les modèles de machine learning y sont particulièrement exposés parce qu'ils exploitent toutes les corrélations disponibles.

Comment tester concrètement le disparate impact

On ne corrige pas ce qu'on ne mesure pas. Voici la démarche pratique.

Étape 1 : obtenir l'attribut protégé. Vous n'avez souvent pas le droit d'utiliser la race dans la tarification, mais vous pouvez avoir besoin de l'estimer pour tester les biais. Une méthode courante est le BISG (Bayesian Improved Surname Geocoding), qui estime la probabilité d'appartenance raciale à partir du nom de famille et de la localisation. Le CFPB a publié sa méthodologie BISG publiquement.

Étape 2 : comparer les résultats entre groupes. Regardez la prime moyenne, le taux d'acceptation ou le risque prédit par groupe estimé.

Étape 3 : lancer un test formel. Le plus cité est la règle des quatre cinquièmes (issue du droit du travail, largement reprise) : si le taux de sélection ou le taux favorable d'un groupe est inférieur à 80 % de celui du groupe le plus favorisé, c'est un signal d'alerte.

Voici une vérification de disparate impact réduite à l'essentiel en Python :

import pandas as pd

# df has columns: predicted_premium, estimated_group
group_means = df.groupby("estimated_group")["predicted_premium"].mean()

baseline = group_means.min()  # lowest-premium group = most favored
impact_ratio = baseline / group_means

print(impact_ratio)
# Any group with ratio < 0.80 signals potential disparate impact

Étape 4 : si vous trouvez un impact, trouvez la cause. Quelles features expliquent l'écart ? C'est là qu'interviennent les outils d'explicabilité.

L'explicabilité est désormais une obligation, pas un bonus

Les régulateurs exigent de plus en plus que vous puissiez expliquer pourquoi un modèle a facturé un prix précis à une personne précise. Une boîte noire qui dit « faites-moi confiance » ne passera pas un dépôt de tarifs.

Deux notions à connaître :

Les adverse action notices. Sous le Fair Credit Reporting Act (FCRA), lorsque vous prenez une décision défavorable (refus de couverturecouvertureLe nombre de personnes uniques exposées à votre message sur une période donnée. Contrairement aux impressions, le reach compte chaque personne une seule fois, quel que soit le nombre d'expositions.Voir la définition complète →, tarif majoré) fondée en partie sur un rapport de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit, vous devez en indiquer les principales raisons au consommateur. « Notre IA en a décidé ainsi » n'est pas une raison recevable.

Les valeurs SHAP. SHAP (SHapley Additive exPlanations) est une technique très répandue qui attribue une prédiction à chaque feature d'entrée. Pour un client donné, SHAP peut montrer : tarif de base plus 120 $ pour les sinistres antérieurs, plus 60 $ pour le type de véhicule, plus 200 $ pour le code postal. Cette dernière ligne est exactement celle qu'un régulateur entourera.

Le model bulletin de la NAIC

En 2023, la NAIC (National Association of Insurance Commissioners, l'organisme qui coordonne les régulateurs des États) a adopté un Model Bulletin sur l'usage de l'IA par les assureurs. De nombreux États en ont depuis adopté des versions. Les attentes de fond :

• Les assureurs sont responsables des résultats produits par l'IA, y compris celle de prestataires tiers.
• Vous devez disposer d'un programme écrit de gouvernance de l'IA.
• Vous devez tester les biais et le documenter.
• Vous devez être en mesure d'expliquer les décisions.

Vous pouvez lire directement le NAIC Model Bulletin on AI. Il est court et lisible, et c'est ce qui se rapproche le plus aujourd'hui d'un standard national.

Le Colorado est allé plus loin avec une réglementation spécifique sur l'usage de données externes et d'algorithmes par les assureurs vie, imposant des tests de biais quantitatifs. Attendez-vous à ce que d'autres États suivent ce modèle en 2026 et au-delà.

Corriger un modèle biaisé

Vous avez trouvé un disparate impact. Et maintenant ? Vous disposez de plusieurs leviers, du plus rudimentaire au plus fin.

Option 1 : supprimer la feature en cause. Retirez le code postal. Simple, mais vous perdez souvent une vraie valeur prédictive, et d'autres features peuvent continuer à servir de proxy pour la même chose. Rarement suffisant à soi seul.

Option 2 : trouver un substitut plus équitable. Plutôt que le code postal brut, utilisez des variables au lien causal plus clair avec le risque : densité du trafic local, fréquence des sinistres liés à la météo, qualité des routes. Elles expliquent *pourquoi* la géographie compte sans faire entrer la race en fraude.

Option 3 : contraindre le modèle à l'entraînement. Ajoutez une contrainte d'équité pour que l'optimiseur soit pénalisé quand les résultats divergent entre groupes. Vous échangez un peu de précision contre beaucoup de défendabilité.

Option 4 : ajuster les sorties. Post-traitez les prédictions pour égaliser une métrique d'équité choisie. Efficace, mais prudence : ajuster délibérément le prix par groupe peut lui-même ressembler à du disparate treatment. Faites valider par le juridique d'abord.

Il n'existe pas de réglage « équitable » universel. Les définitions de l'équité peuvent se contredire mathématiquement. Vous ne pouvez pas toujours égaliser à la fois les taux d'erreur et les taux de sélection. C'est un résultat d'impossibilité connu : vous devez donc choisir la définition adaptée à la réglementation qui vous concerne et documenter ce choix.

Un avant/après concret

Le modèle incendies de forêt d'un assureur habitation utilisait le code postal comme feature principale. Les tests de biais ont révélé un écart corrélé à un groupe protégé. La correction : remplacer le code postal par des données à la parcelle (distance à la végétation, matériau de toiture, espace défendable, périmètres d'incendies historiques). Le nouveau modèle s'est révélé *plus* précis sur le risque incendie et a passé la revue, parce que chaque feature avait un lien physique clair avec la perte.

Voilà le principe à intégrer : les features causales battent les proxies corrélationnels, pour l'équité comme pour la précision.

Construire un processus de gouvernance auquel les régulateurs se fient

L'équité d'un modèle n'est pas un test ponctuel. C'est un programme. Un dispositif défendable comprend :

• Un inventaire des modèles. Chaque modèle, sa finalité, ses entrées, son propriétaire.
• Des tests de biais avant déploiement, avec métriques et seuils documentés.
• Un monitoring continu. Les données dérivent. Un modèle équitable au lancement peut cesser de l'être à mesure que la population évolue.
• Un humain dans la boucle pour les décisions à fort impact comme les refus.
• La responsabilité des prestataires. Si vous achetez un modèle de scoring, vous restez propriétaire du résultat. Exigez contractuellement la documentation des tests.
• Une piste d'audit. Chaque décision reproductible et explicable des mois plus tard.

Les assureurs qui prospèrent sous la régulation de l'IA traitent la conformité comme une discipline d'ingénierie, pas comme une formalité juridique de fin de parcours.

Points clés à retenir

• La discrimination par proxy est le premier risque IA en tarification assurance. Un modèle peut produire des résultats inéquitables sans jamais utiliser une variable protégée. Le code postal et les scores de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit en sont les coupables habituels.
• Testez le disparate impact de façon quantitative. Estimez les attributs protégés (par exemple avec le BISG), comparez les résultats entre groupes, et appliquez des seuils comme la règle des quatre cinquièmes.
• L'explicabilité est désormais exigée. Utilisez des outils comme SHAP pour justifier n'importe quel prix individuel et émettre des adverse action notices conformes au FCRA.
• Connaissez le NAIC Model Bulletin. C'est le standard national émergent : les assureurs sont responsables des résultats de l'IA, doivent les gouverner et documenter les tests de biais, y compris pour les modèles de prestataires.
• Préférez les features causales aux proxies corrélationnels. Remplacer le code postal par des facteurs de risque physiques ou à la parcelle améliore souvent l'équité et la précision en même temps.