Gouverner l'équité et la conformité des modèles de tarification

# Gouverner l'équité et la conformité des modèles de tarification

Un régulateur d'État vous renvoie votre dépôt tarifaire auto avec une seule question : « Expliquez pourquoi votre modèle facture plus cher les demandeurs du code postal 60636 que ceux du 60614, et prouvez qu'il ne s'agit pas d'un proxy de la race. »

Votre modèle n'a jamais vu la race. Il a vu le code postal, le credit-based insurance score et le type de véhicule. Mais le régulateur sait que ces variables peuvent véhiculer discrètement des caractéristiques protégées. Si vous ne pouvez pas répondre, votre dépôt est bloqué, et vous ne pouvez pas vendre le produit au tarif dont vous avez besoin.

Cette leçon vous montre comment auditer un modèle de tarification en machine learning, repérer la discrimination par proxy, mesurer le disparate impact et le documenter assez solidement pour passer l'examen.

Les deux problèmes qui préoccupent les régulateurs

La discrimination par proxy survient quand une variable d'apparence neutre se substitue à une classe protégée. Exemple : un modèle exclut la race mais utilise le code postal. Comme les quartiers américains restent ségrégés racialement, le code postal peut prédire la race. Le modèle discrimine sans jamais nommer le trait protégé.

Le disparate impact est le résultat : une pratique neutre en apparence qui produit de moins bons résultats pour un groupe protégé, même sans intention de discriminer. Un modèle peut être parfaitement « aveugle » et facturer malgré tout systématiquement plus cher à un groupe.

L'assurance ajoute une subtilité. L'équité actuarielle veut que le prix reflète la perte attendue. Un conducteur de vingt ans a réellement plus d'accidents qu'un conducteur de cinquante ans : le faire payer plus est légal et attendu. Le régulateur n'interdit pas les différences. Il interdit les différences qui suivent des classes protégées sans justification de risque légitime.

Les classes protégées en assurance varient selon les États mais incluent couramment la race, la religion, l'origine nationale, et parfois le genre et le crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit. Certains États (la Californie par exemple) restreignent ou interdisent totalement certains facteurs de tarification.

Préparer l'audit : récupérer les données qui vous manquent

Voilà le piège. Vous ne pouvez pas mesurer le disparate impact par race si vous n'avez jamais collecté la race. La plupart des assureurs ne le font pas, et souvent ne le peuvent pas.

Le contournement standard est l'estimation par proxy. La méthode la plus citée est le Bayesian Improved Surname Geocoding (BISG), qui estime la probabilité qu'un assuré appartienne à un groupe racial à partir de son nom de famille et de sa localisation géographique. Le CFPB a publié sa méthodologie BISG comme référence publique.

BISG est imparfait. Il donne une probabilité, pas un fait. Mais il permet d'estimer l'impact au niveau du groupe, ce dont a besoin le test d'équité.

Étape 1 : tester le comportement proxy de chaque variable

Commencez par les inputs. Pour chaque variable de tarification, demandez : dans quelle mesure prédit-elle une classe protégée ?

Un premier passage simple et défendable consiste à régresser vos probabilités raciales estimées sur chaque feature et à vérifier la force de la relation.

import pandas as pd
import statsmodels.api as sm

# df contient : les colonnes de features + 'race_prob_black' issu de BISG
features = ['credit_score', 'zip_risk_tier', 'vehicle_age', 'annual_mileage']

for f in features:
    X = sm.add_constant(df[f])
    model = sm.OLS(df['race_prob_black'], X).fit()
    print(f, "R-squared:", round(model.rsquared, 3))

Un R-squared élevé signifie que la variable porte beaucoup de signal de classe protégée. Cela ne la rend pas automatiquement illégale, mais la signale comme à justifier. Les credit-based insurance scores et les tranches géographiques sont les suspects habituels.

Étape 2 : mesurer le disparate impact sur l'output

Testez maintenant le prix que le modèle produit, pas seulement les inputs.

Deux métriques courantes :

Ratio de disparate impact. Comparez le taux auquel chaque groupe reçoit un résultat défavorable (par exemple, être placé dans la tranche tarifaire supérieure). Un ratio éloigné de 1,0 signale un déséquilibre. Les régulateurs et les tribunaux invoquent parfois une « four-fifths rule » (un ratio inférieur à 0,80) empruntée au droit du travail, même si c'est un repère grossier et non un standard légal en assurance.

Comparaison des primes par groupe. Pondérez les primes par les probabilités BISG et comparez la prime moyenne prédite entre groupes estimés. Si le groupe A paie sensiblement plus, vous devez montrer que le groupe A a aussi des pertes attendues sensiblement plus élevées.

Le test clé est conditionnel : l'écart de prix subsiste-t-il après contrôle des facteurs de risque légitimes ? Si deux conducteurs ont des espérances de perte identiques mais que les groupes de race estimée paient des prix différents, c'est la preuve accablante.

Étape 3 : décider quoi faire d'une variable signalée

Vous avez trois options honnêtes pour une variable qui montre un comportement proxy :

1. La justifier et la garder. Montrez que la variable prédit la perte pour une raison réelle et causale, et que son pouvoir prédictif ne s'effondre pas une fois la race prise en compte. Documentez la logique actuarielle.

2. La modifier. Remplacez un proxy grossier par une mesure plus directe. Exemple : au lieu du code postal brut, utilisez le risque catastrophe lié au lieu de stationnement (grêle, inondation), qui a une cause physique et une corrélation raciale moindre.

3. L'abandonner. Si une variable ajoute peu de précision mais porte un fort signal proxy, la retirer est souvent la voie la plus propre.

Attention au proxy leakage par interactions. Retirer la race ne sert à rien si cinq autres variables la reconstituent conjointement. Testez les combinaisons, pas seulement les features isolées.

Étape 4 : modélisation fairness-aware (à manier avec prudence)

Vous pouvez aussi ajuster le modèle lui-même. Les techniques incluent la repondération des données d'entraînement, l'ajout de contraintes d'équité pendant l'entraînement, ou le post-traitement des scores pour égaliser les résultats entre groupes.

Grosse réserve en assurance : modifier délibérément les prix selon une classe protégée peut être illégal dans certains États, même avec un objectif d'équité. Ajuster le prix d'un demandeur noir parce qu'il est noir relève du disparate treatment, généralement interdit d'emblée. C'est une véritable tension juridique. Impliquez le juridique avant d'appliquer toute correction utilisant des estimations de classe protégée dans la tarification.

Pour la plupart des dépôts, la voie plus sûre est l'étape 3 : corriger les inputs, pas l'output.

Étape 5 : documenter pour passer le rate filing

Un rate filing est le dossier qu'un assureur soumet au département d'assurance d'un État pour faire approuver ses tarifs. La plupart des États exigent que les tarifs ne soient « pas injustement discriminatoires », entre autres critères. La NAIC (National Association of Insurance Commissioners) a publié des model bulletins sur l'usage de l'IA que de nombreux États ont adoptés, poussant les assureurs vers une gouvernance documentée.

Votre dossier de documentation doit inclure :

• Inventaire des variables. Chaque input, sa source et sa justification actuarielle.
• Analyse des proxys. Les tests de l'étape 1, avec les résultats et votre argumentaire pour conserver ou retirer chaque variable signalée.
• Résultats de disparate impact. Les métriques de l'étape 2, y compris le test conditionnel.
• Model card. Un résumé en langage clair de ce que fait le modèle, de ses données, de ses limites et de son usage prévu.
• Piste de gouvernance. Qui a revu, quand, et ce qui a changé. Les régulateurs veulent voir un processus reproductible, pas un nettoyage ponctuel.

Rédigez-le pour qu'un examinateur non technique puisse le suivre. La clarté est un actif de conformité.

Un mini-exemple travaillé

Supposons que votre modèle place 22 % des demandeurs estimés blancs et 41 % des demandeurs estimés noirs dans la tranche tarifaire supérieure. Ratio : 0,22 / 0,41 = 0,54. C'est nettement sous 0,80 et cela attirera l'attention.

Vous enquêtez. Après contrôle des sinistres antérieurs, du kilométrage annuel et de la note de sécurité du véhicule, l'écart se réduit à un ratio de 0,91. L'essentiel de la disparité s'expliquait par des facteurs de perte légitimes.

Mais un écart résiduel subsiste, et vous le rattachez au credit-based insurance score, qui porte un fort signal proxy dans vos données. Vous testez son retrait. La précision baisse à peine, et le ratio monte à 0,97.

Décision : retirer ou remplacer le facteur crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit pour ce produit, documenter l'arbitrage (faible perte de précision, gain d'équité important), et déposer le dossier avec l'analyse complète jointe. Cette histoire est défendable.

À retenir

• L'aveuglement n'est pas l'équité. Un modèle qui exclut la race peut toujours discriminer via des proxys comme le code postal et le score de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit. Testez les inputs et les outputs.
• Mesurez avec des groupes estimés. Comme les assureurs détiennent rarement les données de race, utilisez des méthodes proxy documentées comme BISG pour estimer l'impact au niveau du groupe, en reconnaissant leurs limites.
• Faites le test conditionnel. La question est de savoir si les écarts de prix subsistent après contrôle des facteurs de perte légitimes. Les écarts résiduels inexpliqués sont le vrai risque.
• Corrigez les inputs, pas les outputs. Ajuster directement les prix selon une classe protégée peut constituer un disparate treatment illégal. Préférez justifier, modifier ou retirer les variables proxy, et consultez le juridique avant toute correction.
• La documentation est le livrable. Un inventaire de variables clair, une analyse des proxys, des métriques d'impact, une model card et une piste de gouvernance : c'est ce qui fait réellement approuver un dépôt.