La question préalable : faut-il de l’IA ici ?
Le premier levier de sobriété n’est pas technique. C’est une question de conception : le recours à un modèle génératif est-il le bon outil pour ce problème ?Une expression régulière suffirait-elle ?
Une expression régulière suffirait-elle ?
if est le gaspillage le plus courant en production.Un modèle classique ferait-il l'affaire ?
Un modèle classique ferait-il l'affaire ?
Le résultat sera-t-il réellement utilisé ?
Le résultat sera-t-il réellement utilisé ?
La fréquence est-elle justifiée ?
La fréquence est-elle justifiée ?
Dimensionner le modèle à la tâche
C’est le levier le plus puissant et le plus sous-exploité. L’écart de consommation entre un petit modèle et un grand modèle de raisonnement se compte en dizaines, parfois en centaines.Les leviers techniques
Activer le prompt caching
Éviter les régénérations en cascade
Limiter la longueur de sortie
max_tokens évite les réponses fleuves que personne ne lit intégralement.Préférer le RAG au fine-tuning
Traiter par lots quand c'est possible
Mettre en cache les réponses elles-mêmes
Le choix du fournisseur et de la région
À usage identique, l’empreinte carbone peut varier d’un facteur 10 selon le lieu d’exécution. Quelques critères pour arbitrer :Localisation des serveurs
Transparence du fournisseur
Stress hydrique local
Modèles ouverts et petits
Le référentiel de l’IA frugale
Pour ceux qui veulent structurer la démarche, l’AFNOR a publié en 2024 l’AFNOR SPEC 2314, Référentiel général pour l’IA frugale. C’est à ce jour le document normatif le plus opérationnel en français sur le sujet. Il apporte deux choses :- Une méthodologie de mesure fondée sur l’analyse de cycle de vie, applicable à un système d’IA de bout en bout ;
- 31 fiches de bonnes pratiques couvrant la conception, l’entraînement, le déploiement et l’usage, ainsi que des règles pour communiquer honnêtement sur le caractère frugal d’un service.
Une checklist d’écoconception
Justifier l'usage
Dimensionner le modèle
Optimiser le contexte
Maîtriser les sorties
Choisir l'hébergement
Mesurer et suivre
Surveiller l'effet rebond
Ce qu’il faut retenir
- Sobriété et performance vont dans le même sens : c’est ce qui rend la démarche durable.
- Le premier levier est de ne pas utiliser l’IA là où un outil plus simple suffit.
- Dimensionner le modèle à la tâche est le gain le plus important et le plus facile à obtenir.
- La région d’hébergement peut faire varier l’empreinte carbone d’un facteur 10.
- L’AFNOR SPEC 2314 fournit un cadre méthodologique et 31 bonnes pratiques en français.
- Suivez le volume total, pas seulement l’efficacité unitaire.
Testez vos connaissances
Quiz : Faire tourner un modèle en local sur son propre ordinateur est-il automatiquement plus sobre qu'un appel à un service cloud mutualisé ?
Quiz : Faire tourner un modèle en local sur son propre ordinateur est-il automatiquement plus sobre qu'un appel à un service cloud mutualisé ?