Le biais caché dans vos données de compteurs

En 2020, des chercheurs de l'Université du Michigan et de Stanford ont analysé des millions de relevés de compteurs intelligents et découvert quelque chose que les utilities n'avaient pas vérifié systématiquement : les modèles d'adoption du solaire entraînés sur des données clients historiques sous-estimaient systématiquement le potentiel solaire en toiture dans les quartiers à faibles revenus et à majorité noire, les mêmes quartiers où les files d'attente d'interconnexion (le processus par lequel les ressources énergétiques distribuées obtiennent l'autorisation de se raccorder au réseau) avançaient déjà plus lentement. Les données n'étaient pas fausses. Elles reflétaient fidèlement un passé façonné par le redlining, un investissement réseau inégal et un accès inégal au financement. Le modèle n'a fait que l'automatiser vers l'avant.

C'est le problème central de cette leçon : les systèmes d'IA dans les utilities n'ont pas besoin d'une intention biaisée pour produire des résultats biaisés. Il leur suffit d'un historique biaisé, et la plupart des données de compteurs, de facturation et de réseau en regorgent.

Où le biais s'installe : trois cas d'usage à fort enjeu

Coupures et recouvrement

Les utilities utilisent de plus en plus des modèles prédictifs pour hiérarchiser les comptes en défaut à signaler pour coupure ou à transmettre au recouvrement, et ceux à orienter vers des plans de paiement ou des programmes d'aide. Les données d'entraînement incluent généralement l'historique de paiement, des proxys de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit et des variables au niveau du quartier.

Le risque : le code postal et l'historique de paiement sont fortement corrélés à la race et au revenu aux États-Unis, après des décennies de discrimination dans le logement. Un modèle qui optimise la « probabilité de paiement final » peut finir par couper le service plus agressivement dans des zones historiquement mal desservies, même en excluant explicitement la race comme variable : c'est ce qu'on appelle la discrimination par proxy.

Tarification dynamiqueTarification dynamiqueAjustement automatique des prix en temps réel selon la demande, la concurrence ou le comportement des utilisateurs, pour optimiser le revenu, la marge ou la conversion.Voir la définition complète → et demand response

Les tarifs heures pleines/heures creuses et la tarification dynamique (des prix de l'électricité qui varient à l'heure selon l'état du réseau) se développent dans les États américains et les marchés européens à mesure que les compteurs intelligents se déploient. Des modèles d'IA fixent les signaux prix et inscrivent les clients dans des programmes de demand response.

Le risque : les foyers sans horaires flexibles, souvent des travailleurs postés, des locataires sans thermostat connecté ou des logements multigénérationnels avec quelqu'un à la maison toute la journée, ne peuvent pas décaler leur consommation vers les heures bon marché. Ils paient plus, structurellement, tandis que les ménages plus aisés équipés de batteries domestiques et de HVAC connectée captent les économies. Le modèle n'est pas biaisé contre eux par conception ; il présuppose simplement une flexibilité que tout le monde n'a pas.

Approbations d'interconnexion des DER

L'interconnexion des DER (distributed energy resources : solaire en toiture, batteries, véhicules électriques) s'appuie sur des modèles de capacité réseau assistés par IA pour approuver ou mettre en file d'attente les demandes. Si l'investissement réseau historique a été inégal, comme le documentent de nombreuses études sur les territoires desservis par les utilities américaines, le modèle affichera « moins de capacité d'accueil » dans les zones sous-investies, non par physique mais du fait de décennies de maintenance différée et d'une infrastructure plus légère.

Le risque : cela crée une boucle de rétroaction. Faible investissement, donc faible capacité modélisée, donc plus de refus, donc investissement toujours faible.

Pourquoi c'est un problème de gouvernance, pas seulement de modélisation

Les régulateurs commencent à traiter cela comme un sujet central de gouvernance des utilities, pas comme une question technique annexe.

• Aux États-Unis, la Federal Energy Regulatory Commission (FERC) et les public utility commissions (PUC) des États exigent de plus en plus que les utilities publient les données de coupures par proxy démographique (revenu, géographie) au titre de mandats d'équité au niveau des États, par exemple en Californie avec les règles de reporting des coupures de la California Public Utilities Commission (CPUC).
• L'EU AI Act (entré en vigueur en 2024, obligations échelonnées jusqu'en 2026-2027) classe certains usages de l'IA dans les utilities, dont les scorings proches de la solvabilité comme les modèles de risque de coupure, en « systèmes d'IA à haut risque », ce qui déclenche des évaluations des risques obligatoires, une supervision humaine et des exigences de documentation avant déploiement. Voir la présentation de l'AI Act par la Commission européenne pour le cadre officiel.
• Les États-Unis n'ont pas encore de loi fédérale spécifique à l'IA pour les utilities, mais la Federal Trade Commission (FTC) a signalé qu'elle appliquerait ses pouvoirs existants en matière de non-discrimination et de pratiques déloyales aux décisions algorithmiques, et plusieurs services énergie d'États exigent désormais des évaluations d'impact sur l'équité avant toute modification de structure tarifaire pilotée par IA.

L'implication pratique pour une utility : vous ne pouvez pas traiter le déploiement d'un modèle comme une simple validation d'ingénierie. Les équipes juridiques, affaires réglementaires et équité client doivent avoir une place avant le lancement, pas après une plainte.

Les contrôles d'équité à mener avant déploiement

Une checklist pré-déploiement exploitable, adaptée des pratiques émergentes chez les utilities privées et de guides comme l'AI Risk Management Framework du NIST :

1. Test d'impact disparate. Passez les sorties du modèle (signalements de coupure, paliers tarifaires, approbations DER) au crible par code postal, tranche de revenu et, lorsque la loi le permet, proxys démographiques. Comparez les taux de résultats entre groupes, pas seulement la précision moyenne.

2. Audit des variables proxy. Vérifiez si des variables « neutres » (score de crédit, code postal, âge du compteur, nombre de coupures antérieures) sont fortement corrélées à des caractéristiques protégées. Une simple matrice de corrélation le révèle souvent en une après-midi.

3. Contrôles ponctuels d'équité contrefactuelle. Prenez un dossier client réel, changez uniquement le code postal ou le nom, relancez le modèle, regardez si la sortie bascule.

4. Seuil de revue humaine pour les actions à fort enjeu. Aucune coupure entièrement automatisée. Exigez une validation humaine au-delà d'un score de risque défini, en particulier pour les comptes signalés pendant des épisodes météo extrêmes.

5. Transparence envers la communauté et le régulateur. Publiez une model card en langage clair décrivant les données d'entraînement, l'objectif d'optimisation et les limites connues, avant le dépôt réglementaire.

Un contrôle de biais simple en pratique

Voici le type de test léger qu'une équipe data d'utility ferait tourner avant de valider un modèle de coupure :

import pandas as pd

# outcomes: predicted risk score + actual demographic proxy (income tercile)
df = pd.read_csv("disconnection_model_outputs.csv")

disparity = df.groupby("income_tercile")["flagged_for_disconnection"].mean()
print(disparity)

# flag if lowest income tercile is flagged >1.5x more than highest
ratio = disparity.iloc[0] / disparity.iloc[-1]
if ratio > 1.5:
    print(f"WARNING: disparity ratio {ratio:.2f}, review before deployment")

Ce ne sont pas des statistiques sophistiquées. C'est justement le point : la plupart des utilities pourraient faire tourner un tel contrôle dès aujourd'hui et ne l'ont pas fait, parce que personne n'était propriétaire de l'exigence.

À quoi ressemble le « bon » niveau : les pratiques qui émergent

Quelques signaux réels et vérifiables de maturation du secteur :

• National Grid et plusieurs utilities privées américaines ont publié des cadres d'équité liés à la réforme des files d'attente d'interconnexion DER, en partie sous la pression réglementaire des États (la procédure Reforming the Energy Vision de l'État de New York en est un exemple bien documenté).
• L'Office of Economic Impact and Diversity du Department of Energy a financé des travaux portant explicitement sur l'équité algorithmique dans les coupures d'utilities et le ciblage des programmes pour ménages à faibles revenus.
• Plusieurs régulateurs d'États membres de l'UE, au titre des règles de la catégorie haut risque de l'AI Act, exigent désormais une « analyse d'impact sur les droits fondamentaux » documentée avant tout déploiement de systèmes de décision automatisés affectant des services essentiels comme l'électricité, le gaz et l'eau.

Rien de tout cela n'élimine le biais. Cela crée une trace écrite et une contrainte de vérification avant que le préjudice ne se compose à grande échelle, ce qui constitue le niveau réaliste de gouvernance en 2026.

🎬 [VIDEO: "How Algorithms Can Discriminate (Without Meaning To)" - youtube.com/results?search_query=algorithmic+bias+explained - une courte explication de la façon dont les variables proxy créent une discrimination non intentionnelle dans les systèmes de décision automatisés, utile comme contexte pour la notion d'impact disparate ci-dessus]

Points clés

• Les modèles d'IA dans les utilities (coupures, tarification dynamique, approbation DER) peuvent encoder des inégalités historiques comme un investissement réseau inégal ou des pratiques de prêt discriminatoires, et produire des résultats biaisés même sans intention biaisée.
• La discrimination par proxy est le mécanisme central : des variables comme le code postal ou l'historique de paiement sont corrélées à des caractéristiques protégées même quand ces caractéristiques sont exclues du modèle.
• L'exposition réglementaire est réelle et croissante : l'EU AI Act classe beaucoup de ces systèmes en haut risque avec évaluations d'impact obligatoires, tandis que les PUC des États américains et la FTC appliquent leurs pouvoirs existants aux décisions algorithmiques.
• Les contrôles pré-déploiement pratiques (test d'impact disparate, audits de proxys, contrôles contrefactuels, seuils de revue humaine) coûtent peu et peuvent être menés avant le lancement, plutôt que rajoutés après une plainte réglementaire.
• La propriété de la gouvernance compte autant que le correctif technique : la revue d'équité doit avoir une place formelle dans le processus de déploiement des modèles, pas être une réflexion après coup déclenchée par un procès ou un article de presse.