L’utilisation de l’intelligence artificielle pour retoucher des images personnelles n’est pas un simple échange automatisé entre l’utilisateur et un serveur. Pour entraîner ses modèles d’IA, Microsoft fait appel à des relecteurs humains chargés d’évaluer les modifications d’images générées par Copilot. Problème majeur : ces clichés privés sont transmis à des sous-traitants sans le moindre floutage ni masquage des visages.
Un processus d’entraînement sans anonymisation
Le dispositif concerne directement l’outil d’édition d’images de Copilot, utilisé pour modifier des portraits, effacer des éléments ou changer des arrière-plans. Pour vérifier la pertinence des résultats générés par l’IA, Microsoft confie la comparaison des visuels à des opérateurs humains. Ces derniers reçoivent la consigne texte formulée par l’internaute, la photo originale et le résultat produit par le système, puis attribuent une note à l’exécution.
Ce travail d’évaluation s’inscrit dans un chantier d’entraînement du modèle, distinct des mécanismes automatiques de modération de contenus. Selon plusieurs témoignages, le recrutement de ces travailleurs s’effectue notamment via la plateforme de micro-travail Prolific. Plusieurs centaines de personnes seraient mobilisées pour analyser ces paires de photographies.
La controverse repose sur l’absence totale de censure visuelle. Les relecteurs accèdent aux clichés dans leur format d’origine, rendant identifiables les utilisateurs, leurs proches et leur environnement privé. De plus, plusieurs intervenants affirment avoir croisé des contenus à caractère sexuel sans consentement évident, ainsi que des photographies prises à l’insu de victimes.
La réaction de Microsoft et le cadre d’utilisation
Interrogé sur cette pratique et l’accès à ces données sensibles, Microsoft n’a pas démenti ces révélations. L’entreprise renvoie aux conditions d’utilisation de ses services, indiquant que les données fournies servent à améliorer les produits et à faire respecter les règles de conduite. Toutefois, aucun engagement officiel n’a été formulé concernant un futur floutage ou une anonymisation préalable des fichiers.
L’éditeur ne précise pas non plus si les utilisateurs disposent d’un moyen clair de s’opposer à la relecture humaine de leurs images. La durée de conservation des photos personnelles transmises à ces prestataires externes reste également indéterminée.
Une pratique répandue dans l’industrie de l’IA
Cette affaire rappelle d’autres révélations ayant frappé le secteur de la tech ces dernières années. En 2019, Apple avait dû suspendre un programme d’écoute similaire après des informations révélant que des sous-traitants analysaient des enregistrements audio confidentiels captés par l’assistant vocal Siri.
L’usage de la relecture humaine est une méthode fréquente chez les géants du secteur pour affiner leurs algorithmes :
- OpenAI emploie également des sous-traitants pour analyser des conversations saisies dans ChatGPT.
- Anthropic a reconnu faire examiner certains échanges textuels par des équipes dédiées.
L’extension de ces méthodes à la retouche photo avec Copilot franchit un cap supplémentaire. L’analyse ne porte plus seulement sur des invites textuelles anonymes, mais expose directement l’intimité et le visage des utilisateurs à des yeux humains.