Bonjour ! Dans notre dernière leçon, nous avons exploré les opérations sur les vecteurs, en particulier le produit scalaire qui mesure leur alignement. Nous allons maintenant passer à un niveau supérieur et appliquer cette idée à des ensembles de données entiers.
Cette leçon est consacrée à la multiplication de matrices, une opération fondamentale qui est au cœur de presque tous les algorithmes d'apprentissage automatique. Alors que le produit scalaire combinait deux vecteurs pour donner un scalaire, la multiplication de matrices combine deux matrices pour en produire une nouvelle. Vous apprendrez la règle qui détermine si deux matrices peuvent être multipliées, la méthode de calcul pour effectuer cette opération, et l'intuition géométrique qui se cache derrière. Maîtriser cette opération est une étape essentielle pour comprendre comment les modèles de ML transforment les données.
La Règle d'Or de la Multiplication Matricielle
Tout comme vous ne pouvez pas additionner des vecteurs de dimensions différentes, vous ne pouvez pas multiplier n'importe quelles paires de matrices. Il existe une règle stricte concernant leurs dimensions.
La règle d'or de la multiplication matricielle est la suivante : pour que le produit matriciel soit défini, le nombre de colonnes de la première matrice () doit être égal au nombre de lignes de la deuxième matrice ().
Le document suivant formalise cette règle et la manière de déterminer les dimensions de la matrice résultante.
Ce guide explique clairement la condition de validité de la multiplication matricielle.
Veuillez lire la première partie de la section "Mechanics of matrix-vector multiplication", jusqu'à la fin de l'explication sur les dimensions. Concentrez-vous sur la Règle d'Or et l'exemple qui l'accompagne. Notez comment les "dimensions intérieures" doivent correspondre et comment les "dimensions extérieures" déterminent la taille du résultat.
Le Mécanisme de Calcul
Une fois que nous savons que la multiplication est possible, comment la calcule-t-on ? La réponse s'appuie directement sur ce que vous avez appris dans la leçon précédente : chaque élément de la matrice résultante est le produit scalaire d'une ligne de la première matrice et d'une colonne de la seconde.
Plus précisément, l'élément situé à la -ème ligne et à la -ème colonne de la matrice produit est le produit scalaire de la -ème ligne de avec la -ème colonne de .
L'image ci-dessous illustre ce processus :
Pour voir ce processus en action avec des explications claires, la vidéo suivante est un excellent guide pas à pas.
How To Multiply Matrices - Quick & Easy!
Cette vidéo de The Organic Chemistry Tutor décompose le processus de multiplication de matrices en étapes simples et faciles à suivre.
Regardez les parties suivantes : La règle des dimensions : Une révision rapide de la règle que nous venons de voir. Un premier exemple : Suivez attentivement le calcul d'un produit d'une matrice 1 \times 3 par une matrice 3 \times 2. Un exemple plus complexe : Observez comment la méthode s'applique à un cas plus grand, où le produit d'une matrice 3 \times 2 et d'une matrice 2 \times 3 donne une matrice 3 \times 3. Concentrez-vous sur la façon dont le premier élément (33) est calculé.
Pourquoi cette méthode ? Une application concrète
Cette méthode de calcul peut sembler arbitraire, mais elle est conçue pour résoudre des problèmes pratiques de manière très efficace. Imaginons un exemple simple, comme celui des ventes d'une pâtisserie.
Cette ressource utilise un exemple simple et intuitif pour justifier la méthode de multiplication matricielle.
Lisez la section intitulée "Why Do It This Way?". Remarquez comment la multiplication matricielle permet de calculer le revenu total pour chaque jour en une seule opération organisée. La première matrice contient les prix, et la seconde les quantités vendues. La matrice résultante combine ces informations pour donner les revenus.
Cet exemple montre que la multiplication matricielle est un moyen de calculer systématiquement toutes les combinaisons de produits scalaires pertinentes entre deux ensembles de données, ce qui est exactement ce dont les algorithmes d'apprentissage automatique ont besoin pour, par exemple, calculer les prédictions pour plusieurs points de données en une seule fois.
Propriétés et Interprétation Géométrique
La multiplication de matrices a des propriétés importantes qui diffèrent de la multiplication des nombres scalaires que vous connaissez.
L'ordre compte : la non-commutativité
La propriété la plus surprenante est que la multiplication de matrices n'est pas commutative. Cela signifie qu'en général, .
Dans l'exemple de la vidéo "How To Multiply Matrices", vous avez vu un cas où était défini, mais ne l'était pas. Même lorsque les deux produits sont définis, ils donnent généralement des résultats différents.
Géométriquement, cela a une signification très claire. Si nous considérons les matrices comme des transformations de l'espace (par exemple, une rotation, un étirement), alors multiplier deux matrices revient à appliquer ces transformations l'une après l'autre. Changer l'ordre des matrices revient à changer l'ordre des transformations, ce qui change le résultat final.
La vidéo suivante de 3Blue1Brown offre une visualisation brillante de ce concept.
Matrix multiplication as composition | Chapter 4, Essence of linear algebra
Cette vidéo de la célèbre série "Essence of linear algebra" explique l'intuition géométrique derrière la multiplication de matrices.
Veuillez regarder les segments suivants : Composition de transformations : Cette partie introduit l'idée que multiplier deux matrices revient à composer, ou enchaîner, deux transformations linéaires. L'importance de l'ordre : Observez l'animation qui montre pourquoi appliquer une rotation puis un cisaillement (shear) n'est pas la même chose qu'appliquer un cisaillement puis une rotation. Cela illustre parfaitement pourquoi AB \neq BA.
Regrouper les opérations : l'associativité
Bien que l'ordre des matrices individuelles soit crucial, la manière dont vous les regroupez pour des multiplications multiples ne l'est pas. La multiplication matricielle est associative, ce qui signifie que .
Géométriquement, cela signifie que si vous appliquez la transformation C, puis B, puis A, le résultat est le même que vous considériez d'abord l'effet combiné de (B puis A) appliqué après C, ou l'effet de A appliqué après l'effet combiné de (C puis B). L'ordre des transformations (C, puis B, puis A) reste inchangé. Vous pouvez visionner la partie suivante de la même vidéo 3Blue1Brown pour une explication intuitive.
Matrix multiplication as composition | Chapter 4, Essence of linear algebra
Cette section de la vidéo "Matrix multiplication as composition" explique l'associativité de manière très intuitive.
Regardez le segment sur l'associativité. Il montre pourquoi cette propriété est évidente d'un point de vue géométrique, alors qu'elle serait fastidieuse à prouver numériquement.
Entraînez-vous
Mettons en pratique ce que vous avez appris. Soit la matrice et le vecteur (que l'on peut considérer comme une matrice de ) :
- Vérifiez les dimensions. est une matrice et est une matrice . Le nombre de colonnes de (3) est-il égal au nombre de lignes de (3) ? Oui. Quel sera la dimension du résultat ?
- Calculez le produit . Appliquez la méthode du produit scalaire ligne par colonne.
Cliquez ici pour voir la solution.
La dimension du résultat sera .
Le calcul est le suivant :
Conclusion
Dans cette leçon, nous avons abordé la multiplication de matrices, une opération centrale en apprentissage automatique. C'est le mécanisme par lequel les modèles transforment des données en lot.
Voici les points clés à retenir :
- Condition de validité : Pour multiplier par , le nombre de colonnes de doit être égal au nombre de lignes de .
- Calcul : Chaque élément de la matrice produit est le produit scalaire de la -ème ligne de la première matrice et de la -ème colonne de la seconde.
- Non-commutativité : L'ordre de la multiplication est crucial ; en général, . Géométriquement, cela équivaut à changer l'ordre d'application des transformations.
- Associativité : . L'ordre des opérations successives reste le même, peu importe comment on les regroupe.
Dans notre prochaine leçon, nous découvrirons la transposée d'une matrice. C'est une opération simple mais puissante qui "inverse" les lignes et les colonnes d'une matrice, et qui est essentielle pour manipuler les équations en algèbre linéaire.