Mobiliser systématiquement les versions les plus évoluées de ChatGPT ou de Claude pour effectuer des tâches simples peut peser lourdement sur les budgets des entreprises. Dans un rapport récent, le cabinet Gartner invite les organisations à repenser leur stratégie d’intelligence artificielle. D’ici à 2030, les modèles à poids ouverts pourraient exécuter jusqu’à 90 % des opérations confiées aux agents d’IA.
Réduire les coûts en ciblant la bonne IA pour la bonne tâche
Une grande partie du travail des agents virtuels repose sur des opérations répétitives, comme classer des requêtes clients, appeler une application, rapprocher des données ou valider des résultats. Pour ces tâches de routine, les modèles à poids ouverts affichent des performances comparables à celles des modèles propriétaires fermés. Leurs paramètres étant accessibles, ils peuvent être téléchargés et hébergés directement sur l’infrastructure de l’entreprise ou chez le prestataire de son choix.
Sur le papier, l’écart tarifaire à score égal peut être divisé par quatre par rapport au modèle fermé le moins cher, et jusqu’à vingt par rapport aux modèles de pointe. Dans la pratique, les modèles ouverts génèrent parfois davantage de texte ou nécessitent plusieurs essais pour aboutir. En intégrant ces paramètres de consommation de ressources, le coût réel d’une tâche est généralement divisé par cinq ou six, ce qui représente toujours une économie majeure lorsqu’il s’agit d’exécuter des millions d’opérations chaque mois.
Garder la maîtrise des données et du savoir-faire
Au-delà de l’aspect financier, l’utilisation de modèles hébergés en interne ou sous contrôle strict permet d’assurer la souveraineté sur l’historique des opérations. Les décisions prises par les agents, les outils sollicités et les résultats obtenus constituent un patrimoine informationnel précieux pour l’entreprise. Conserver cet historique garantit un savoir-faire interne qui peut s’avérer déterminant, notamment lors d’opérations de rachat ou d’audit.
Cependant, la seule mise à disposition des poids d’un modèle ne garantit pas automatiquement que les données restent confidentielles, notamment si ces modèles sont exploités via des API tierces. Gartner souligne ainsi l’importance stratégique de choisir l’emplacement d’hébergement et de fixer des règles rigoureuses sur la conservation des données.
L’essor stratégique des logiciels d’orchestration
Pour appliquer efficacement cette répartition, le rôle des logiciels d’orchestration, également appelés harness ou harnais, devient central dans l’architecture informatique. Ces outils pilotent l’exécution des agents en effectuant plusieurs missions clés :
- Découper les tâches complexes et distribuer le travail vers le modèle le plus adapté.
- Encadrer les accès aux bases de données, aux applications internes et aux outils métier.
- Gérer les permissions et conserver une traçabilité complète des actions réalisées.
Dans ce schéma d’organisation, les modèles de pointe fermés conserveraient un rôle ciblé, dédié à la recherche et à la résolution de problèmes inédits. Une fois la méthode stabilisée, le relais est passé aux modèles ouverts spécialisés pour l’exécution quotidienne à grande échelle.