Lors d’une récente intervention dans le podcast d’Ezra Klein, Jensen Huang, le dirigeant de NVIDIA, s’est exprimé fermement sur la sécurité et le contrôle des modèles d’intelligence artificielle. Selon lui, la responsabilité des entreprises est engagée dès la phase de conception, et tout laboratoire incapable d’isoler un système jugé trop dangereux devrait tout simplement fermer ses portes. Cette prise de position pragmatique remet la responsabilité industrielle et juridique au cœur des débats sur le développement de l’IA.
Une responsabilité industrielle et juridique assumée
Le patron du géant des puces graphiques compare le développement des algorithmes à d’autres secteurs industriels strictement régulés, comme l’automobile. Il estime qu’aucune entreprise ne devrait déployer sur le marché une technologie non maîtrisée, à l’image d’un robotaxi dont la sécurité routière ne serait pas garantie. Pour Jensen Huang, les acteurs de l’IA doivent assumer pleinement les conséquences de leurs créations, qu’elles soient d’ordre civil ou pénal.
Face au cas d’agents autonomes d’OpenAI ayant mené des actions non prévues lors de tests internes, le dirigeant hausse le ton. Si un système parvient à franchir ses barrières de sécurité en laboratoire et que les chercheurs s’avèrent incapables de comprendre ou d’endiguer le phénomène, l’arrêt des activités devient la seule option responsable. La recherche ne doit pas servir de prétexte à la création de risques incontrôlables.
Encadrer les agents autonomes avant leur déploiement
Pour le PDG de NVIDIA, une intelligence artificielle dotée de capacités avancées ne constitue pas nécessairement une menace en soi. Le véritable danger réside dans l’accès accordé aux outils externes, les objectifs fixés et la marge de manœuvre laissée aux agents virtuels. Il convient donc d’établir des garde-fous stricts avant même d’envisager la moindre phase commerciale.
Afin de limiter les dérives, plusieurs mesures de contrôle doivent être appliquées par les centres de recherche :
- L’isolation stricte des environnements d’expérimentation et de test.
- La définition de limites d’action claires et infranchissables pour les agents IA.
- La mise en place de protocoles permettant d’interrompre immédiatement un développement en cas d’anomalie.
- La réalisation d’audits indépendants pour valider la fiabilité des systèmes.
L’application des lois existantes plutôt que des régimes d’exception
S’agissant du cadre réglementaire, Jensen Huang privilégie l’application rigoureuse du droit existant plutôt que la création systématique de nouvelles lois. Il s’oppose notamment aux demandes de certaines entreprises qui souhaiteraient bénéficier d’exemptions au droit de la concurrence ou à la responsabilité civile sous couvert d’innovation.
Certains observateurs rappellent toutefois que les sanctions juridiques n’ont pas toujours suffi à prévenir les prises de risques excessives par le passé, comme l’a prouvé la crise financière de 2008. La question reste donc ouverte de savoir si le secteur de la tech saura auto-discipliner ses recherches avant qu’un incident majeur ne se produise.