Infrastructure
GPU : Graphics Processing Unit. « Unité de traitement graphique », par analogie avec une salle d'examen où des centaines d'élèves font chacun le même exercice en même temps. Un processeur spécialisé dans les calculs massivement parallèles, d'abord pour l'affichage, aujourd'hui surtout pour l'IA.
Parallélisme massif : Un CPU aligne quelques dizaines de cœurs polyvalents ; un GPU en aligne des milliers, plus modestes, qui appliquent la même opération à des blocs entiers de données. Idéal pour le calcul répétitif, beaucoup moins pour le code truffé de branchements.
Mémoire dédiée : Le GPU travaille sur sa propre mémoire (VRAM), très rapide mais limitée en taille. Les transferts depuis la mémoire principale coûtent cher : un calcul mal découpé passe plus de temps sur le bus que dans les cœurs.
Du pixel au réseau de neurones : Conçu pour calculer des pixels, le GPU s'est reconverti dans l'entraînement de modèles, qui reviennent au fond à enchaîner des multiplications de matrices. Le marketing a suivi : écrire « accéléré par GPU » sur une slide suffit désormais à justifier un devis, même pour un logiciel qui tourne très bien sur un portable.
Revers côté sécurité : Le même parallélisme sert au cassage de mots de passe par force brute, à raison de milliards de hachés par seconde. D'où les fonctions de dérivation volontairement gourmandes en mémoire, comme Argon2 ou scrypt.
Explication de la marmotte
Dans un ordinateur, la puce principale ressemble à un chef cuisinier très doué : elle sait tout faire, mais pratiquement une chose à la fois. La carte graphique, elle, ressemble à une immense cuisine remplie de centaines d'apprentis. Chacun ne sait faire que des gestes basiques, mais tous travaillent en même temps. Pour éplucher dix mille pommes de terre, les apprentis gagnent haut la main. C'est pour ça qu'elle sert à afficher les images des jeux vidéo, où chaque petit point de l'écran demande le même calcul. Et c'est aussi pour ça qu'on s'en sert pour entraîner les intelligences artificielles, qui réclament des montagnes de calculs répétitifs.
Où ce terme est utilisé
- Comparer GGUF GPTQ et AWQ pour LLM local (15 occurrences)
- Relier FinOps et MLOps pour piloter le coût de l'IA en production (13 occurrences)
- Dimensionner GPU et RAM pour un LLM local (11 occurrences)
- Calculer le coût d’un LLM local à grande échelle (9 occurrences)
- Backend Foundry Local expliqué et comparé à LM Studio (6 occurrences)
- Comment fonctionne l'inférence d'un modèle de langage (5 occurrences)
- Déployer Ollama sur un poste de travail et dimensionner la mémoire (4 occurrences)
- Hashcat pour casser hors ligne des empreintes de mots de passe (4 occurrences)
- Fenêtre de contexte et mémoire d’un LLM local (3 occurrences)
- Fine-tuning local ou RAG pour données internes (2 occurrences)
