Bonjour !
Dans la leçon précédente, nous avons exploré les trois grands paradigmes du Machine Learning : supervisé, non supervisé et par renforcement. Nous avons noté que l'apprentissage supervisé, avec son objectif de prédire une variable cible à partir de variables explicatives, partage des similitudes conceptuelles avec les modèles économétriques que vous maîtrisez.
Aujourd'hui, nous allons approfondir cette comparaison, qui est au cœur de la transition de l'économétrie vers le Machine Learning. L'objectif de cette leçon est de vous permettre de comparer l'approche de modélisation prédictive du Machine Learning avec les méthodes économétriques traditionnelles.
Comprendre cette distinction est fondamental. Cela vous permettra non seulement de saisir la philosophie du Machine Learning, mais aussi d'expliquer clairement à vos étudiants pourquoi le ML n'est pas simplement "plus de statistiques", mais une culture distincte avec des objectifs et des méthodologies propres.
Le cœur du débat : Prédiction vs. Causalité
La différence la plus fondamentale entre les deux disciplines réside dans leur objectif principal. L'économétrie cherche principalement à expliquer et à mesurer des relations causales, tandis que le Machine Learning est optimisé pour la prédiction.
Pour introduire cette idée, je vous propose d'écouter l'économiste et lauréat du prix Nobel Joshua Angrist, qui résume cette distinction de manière très claire.
Josh Angrist: What's the Difference Between Econometrics and Data Science?
Dans cette courte vidéo de Marginal Revolution University, Joshua Angrist explique la différence essentielle entre l'approche d'un data scientist et celle d'un économètre.
Regardez l'intégralité de la vidéo (environ 1 minute et 30 secondes). Notez comment il oppose le "curve-fitting" (ajustement de courbe) pour la prédiction à la recherche de relations causales pour comprendre l'effet d'une manipulation (par exemple, une politique publique).
Comme l'explique Angrist, l'économétrie se préoccupe de questions du type : "Si nous changeons la politique monétaire, quel sera l'impact sur l'économie ?". Cela nécessite de comprendre les mécanismes sous-jacents et d'isoler les effets de causalité des simples corrélations, en contrôlant les facteurs de confusion. Le but est l'inférence.
Le Machine Learning, en revanche, se concentre sur des questions comme : "Étant donné les caractéristiques d'un client, va-t-il faire défaut sur son prêt ?". L'objectif est de construire un modèle qui donne la réponse la plus précise possible, même si les raisons exactes de cette prédiction ne sont pas entièrement transparentes. Le but est la prédiction.
Deux cultures, deux approches
Cette différence d'objectif engendre des "cultures" de modélisation très différentes. L'image ci-dessous résume bien ces deux mondes. L'économétrie s'inscrit largement dans la colonne "Statistics".
Pour explorer ces différences en détail, je vous propose de lire l'article suivant, qui est écrit par un data scientist ayant une formation en économétrie, ce qui le rend particulièrement pertinent.
From Econometrics to Machine Learning
Cet article, "From Econometrics to Machine Learning", détaille les distinctions clés entre les deux domaines. Il constitue une excellente base pour notre discussion.
Lisez l'article depuis le début jusqu'à la section "From theoretical convergence to purpose divergence". Concentrez-vous sur la manière dont l'auteur oppose les deux approches sur plusieurs axes : fondement théorique vs. empirique, solution exacte vs. approximative, modèle paramétrique vs. non-paramétrique, et validation théorique vs. empirique.
Synthétisons les points clés de cette lecture, en les enrichissant avec des perspectives académiques :
| Aspect | Économétrie Traditionnelle | Machine Learning |
|---|---|---|
| Objectif | Inférence causale & Explication. Quantifier l'effet d'une variable sur une autre (). Tester des théories économiques. | Prédiction. Obtenir la prédiction la plus précise possible sur de nouvelles données. La performance prime sur l'explication. |
| Spécification du modèle | Guidée par la théorie. Modèles souvent paramétriques (ex: linéaire, logit) dont la forme est justifiée par la théorie économique. | Guidée par les données. Modèles souvent non-paramétriques (ex: arbres de décision, réseaux de neurones) qui apprennent la structure de la relation à partir des données, sans hypothèses fortes a priori. |
| Évaluation du modèle | Tests statistiques & "Goodness-of-fit" intra-échantillon. Focus sur le R², les p-values, l'AIC/BIC, les tests de résidus. | Performance prédictive hors-échantillon. L'étalon-or est la performance sur un jeu de données de test jamais vu par le modèle. Métriques : RMSE, Accuracy, etc. |
| Interprétabilité | Primordiale. L'interprétation des coefficients est souvent le but final de l'analyse. | Secondaire. Peut être sacrifiée au profit de la performance. Le "problème de la boîte noire" (black box) est accepté si les prédictions sont bonnes. |
Le piège de la prédiction dans un monde qui change
Susan Athey, une économiste de Stanford qui a beaucoup travaillé à la frontière entre les deux domaines, apporte un éclairage crucial. Les modèles de ML sont excellents pour prédire l'avenir lorsque celui-ci ressemble au passé. Mais que se passe-t-il si les "règles du jeu" changent, par exemple à la suite d'une décision politique ou stratégique ?
Susan Athey, "Machine Learning and Causal Inference for Policy Evaluation"
Dans cette présentation, Susan Athey discute de la rencontre entre le Machine Learning et l'inférence causale. Elle explique pourquoi les outils des économistes sont essentiels pour prédire les conséquences de changements fondamentaux.
Regardez deux extraits : 1. De 04:13 à 06:20 : Athey explique pourquoi un modèle de ML purement prédictif échoue à prévoir ce qui se passera si l'on modifie fondamentalement une plateforme (comme une enchère publicitaire). 2. De 29:13 à 30:45 : Elle explique pourquoi l'optimisation pour la précision prédictive (le but du ML) n'est pas la même chose que l'optimisation pour l'estimation d'un effet de traitement (le but de l'inférence causale).
Le point de Susan Athey est fondamental : si vous changez le système (par exemple, une loi fiscale, les règles d'une enchère, une politique de prix), la relation entre les variables () et le résultat () qui a été apprise par le modèle de ML sur les données passées n'est plus valable. Les modèles économétriques structurels, bien que souvent moins performants en prédiction pure, sont conçus pour tenter de répondre à ce type de question contrefactuelle, un défi majeur pour le ML standard.
Une illustration pratique : statsmodels vs scikit-learn
La différence de philosophie se reflète directement dans les outils logiciels. L'article que vous avez lu propose une démonstration pratique en utilisant Python, qui est très éclairante. Même si vous n'utilisez pas Python, l'exemple illustre parfaitement la divergence des approches.
L'auteur compare deux bibliothèques pour effectuer une régression linéaire :
statsmodels: Orientée économétrie.scikit-learn: La bibliothèque de référence pour le Machine Learning.
From Econometrics to Machine Learning
Revenons à l'article "From Econometrics to Machine Learning" pour observer la démonstration pratique.
Lisez la section "From theory to practice !". Observez la différence entre le résumé de sortie fourni par statsmodels (un tableau complet avec R², AIC, p-values, avertissements) et la sortie de scikit-learn (essentiellement les coefficients du modèle).
Cette comparaison montre que statsmodels est conçu pour l'analyse du modèle. Il vous donne toutes les informations pour évaluer la validité statistique et interpréter les coefficients. scikit-learn, quant à lui, est conçu pour la prédiction. Il vous donne la fonction prédictive et vous laisse le soin d'évaluer sa performance sur un jeu de test. L'avertissement de multicolinéarité de statsmodels est un symptôme parfait : la multicolinéarité est un problème majeur pour l'interprétation des coefficients, mais elle a souvent peu d'impact sur la qualité prédictive globale du modèle.
Testez votre compréhension !
Une banque vous charge de deux missions distinctes :
- Mission A : Le régulateur demande à la banque de quantifier précisément l'impact d'une augmentation de 1% du taux d'intérêt sur le risque de défaut des PME, en contrôlant pour le secteur d'activité et la taille de l'entreprise. L'objectif est de produire un rapport expliquant cette relation.
- Mission B : L'équipe marketing veut lancer une campagne pour un nouveau produit de crédit. Elle a besoin d'une liste des 10 000 clients les plus susceptibles d'être intéressés, afin de maximiser le taux de conversion de la campagne. La précision de la liste est la seule chose qui compte.
Pour chaque mission, quelle approche (économétrie ou machine learning) est la plus appropriée, et pourquoi ?
Voir la réponse
-
Mission A : Approche Économétrique. L'objectif ici est l'inférence causale et l'explication. Le mot clé est "quantifier l'impact". Il faut isoler l'effet du taux d'intérêt, ce qui nécessite un modèle interprétable (comme une régression logistique) où le coefficient associé au taux d'intérêt peut être analysé et testé statistiquement. La qualité de la prédiction est secondaire par rapport à la validité et l'interprétabilité du coefficient.
-
Mission B : Approche Machine Learning. L'objectif est purement la prédiction. Peu importe de savoir pourquoi un client est susceptible d'être intéressé ; l'important est d'identifier correctement qui le sera. On peut utiliser un modèle complexe (type "boîte noire" comme un Random Forest ou un Gradient Boosting) qui explore des centaines de variables et leurs interactions pour produire le classement le plus précis possible. L'évaluation se fera sur la capacité du modèle à identifier les futurs "convertis".
Conclusion : Des disciplines complémentaires
Il est crucial de ne pas voir ces deux domaines comme des concurrents, mais comme des compléments. Le document de l'INSEE ci-dessous conclut bien cette discussion.
Econometrics and Machine Learning
Ce document académique de l'INSEE, "Econometrics and Machine Learning", fournit une perspective institutionnelle sur les liens entre les deux domaines.
Lisez d'abord la section 5, "Determinants of House Prices in Boston". Notez comment les modèles de ML (Random Forest, Boosting) obtiennent une bien meilleure performance prédictive que la régression linéaire (OLS), suggérant que le modèle linéaire est mal spécifié (il manque des non-linéarités/interactions). Ensuite, lisez la conclusion (paragraphe commençant par "While the two cultures...").
Points clés à retenir :
- Finalités distinctes : L'économétrie est optimisée pour l'inférence causale et l'explication, s'appuyant sur la théorie économique. Le Machine Learning est optimisé pour la performance prédictive, s'appuyant sur la puissance des données et des algorithmes.
- Méthodologies différentes : Cela se traduit par des choix de modèles (paramétrique vs. non-paramétrique), des techniques de validation (tests statistiques vs. validation croisée) et des priorités (interprétabilité vs. précision).
- Complémentarité : Le ML peut aider l'économétrie en servant d'outil de diagnostic. Une performance prédictive bien supérieure d'un modèle ML suggère que le modèle économétrique est mal spécifié. Inversement, les techniques d'inférence causale de l'économétrie sont de plus en plus utilisées pour rendre les modèles de ML plus interprétables et robustes (domaine du "Causal Machine Learning").
Pour vous, en tant qu'économiste et futur enseignant de ces concepts, votre expertise est un atout majeur. Vous êtes parfaitement positionné pour expliquer non seulement comment ces outils fonctionnent, mais aussi pourquoi ils sont utilisés et quelles sont leurs forces et limites respectives.
Dans la prochaine leçon, nous allons nous plonger dans le vocabulaire et le processus pratique du Machine Learning. Nous définirons formellement des concepts que nous avons effleurés aujourd'hui, comme les features (variables), la séparation des données d'entraînement et de test, et les métriques de base pour l'évaluation d'un modèle.