Sam Altman défend publiquement une vision ouverte de l’intelligence artificielle, tout en admettant les risques inhérents à sa diffusion. Lors d’un entretien accordé au média POLITICO, le patron d’OpenAI a affirmé que la société devait accepter la survenue d’incidents et de dérives pour ne pas brider le potentiel de ces technologies. Cette position tranche avec les appels récents à un encadrement plus strict des modèles les plus avancés.
Préférer l’ouverture au contrôle restreint d’une poignée d’acteurs
Pour le dirigeant d’OpenAI, garantir une sécurité absolue impliquerait d’enfermer les systèmes les plus performants au sein de quelques laboratoires privés. Ces entités auraient alors le pouvoir de décider de manière unilatérale qui peut utiliser l’intelligence artificielle et sous quelles conditions. Sam Altman qualifie ce scénario de totalement inacceptable, estimant que la liberté d’accès doit primer sur la recherche d’un risque zéro illusoire.
Selon lui, les bénéfices tirés par le grand public et les entreprises dépasseront largement les dommages causés par des acteurs malveillants. Les détournements, les arnaques ou les piratages informatiques sont ainsi présentés comme le prix à payer pour éviter une concentration excessive du pouvoir technologique. Altman fixe néanmoins une limite claire à cette tolérance : les risques jugés véritablement catastrophiques, comme une perte de contrôle majeure sur les modèles d’IA.
Des dérives concrètes déjà observées sur les modèles existants
Les inquiétudes liées aux abus ne relèvent plus de la théorie. Les outils d’intelligence artificielle actuels sont déjà exploités pour automatiser des tâches complexes ou détecter des vulnérabilités informatiques. Les agents autonomes, capables d’exécuter du code, de manipuler des fichiers et d’interagir avec des services tiers, augmentent la portée des attaques potentielles.
Cette réalité avait déjà été soulignée par George Kurtz, le patron de CrowdStrike. Ce dernier rappelait que ralentir le développement des futures générations de modèles ne neutraliserait pas les menaces portées par les systèmes déjà en circulation. Les outils disponibles aujourd’hui offrent déjà des capacités suffisantes pour assister des opérations malveillantes, rendant tout gel technologique peu efficace face aux risques immédiats.
Une approche de la sécurité orientée vers la surveillance active
Face à ce constat, la stratégie de protection ne peut plus reposer uniquement sur des évaluations préalables en laboratoire. Tester un modèle avant sa sortie reste indispensable, mais s’avère insuffisant lorsque les systèmes gagnent en autonomie et interagissent directement avec des infrastructures numériques.
Pour limiter les dégâts sans restreindre l’accès aux outils, les experts préconisent un suivi continu lors de l’exécution des agents informatiques. Cela implique :
- Un contrôle rigoureux des accès aux données et aux services externes ;
- Une surveillance constante des actions réalisées par les agents autonomes ;
- La possibilité d’interrompre immédiatement toute opération s’écartant du cadre prévu.
En combinant des garde-fous techniques lors du développement et une modération active durant le fonctionnement des systèmes, l’industrie cherche à maintenir un équilibre entre démocratisation de l’IA et maîtrise des cybermenaces.