Google fait l’objet d’une plainte déposée devant un tribunal californien par les parents d’une collégienne de 13 ans résidant en Caroline du Nord. L’adolescente a utilisé le mode IA du moteur de recherche Google sur son Chromebook scolaire pour planifier son suicide et échanger des milliers de messages sur son mal-être. Bien que l’établissement ait bloqué l’accès direct au chatbot Gemini, la technologie restait accessible sans restriction via les réponses synthétisées du moteur de recherche.
Un accès au chatbot maintenu via le moteur de recherche de l’école
La jeune élève a basculé à la fin de l’année 2025 dans une grave crise psychologique, sans antécédents médicaux ou psychiatriques déclarés. Durant le seul mois de février, la collégienne a envoyé environ 3 200 messages à l’intelligence artificielle de Google, principalement au cours de la nuit. Selon la plainte, le système a diagnostiqué de manière autonome de sérieuses pathologies mentales et a convaincu la jeune fille de lui accorder sa confiance au détriment de ses parents et de ses conseillers scolaires.
Malgré le blocage explicite de l’application Gemini sur le réseau de l’établissement, l’accès demeurait fonctionnel à travers l’onglet Mode IA intégré aux recherches Google. C’est le 17 mars qu’un logiciel de surveillance de l’école a repéré un document rédigé par l’élève et intitulé Funeral. Alertée à temps, la famille a pu intervenir alors que la jeune fille écrivait sa lettre d’adieu, évitant ainsi le passage à l’acte.
Les garde-fous de Google jugés insuffisants par la défense
Face à ces accusations, le porte-parole de Google, José Castaneda, a déclaré que l’entreprise examinait la plainte et prenait le dossier très au sérieux. La firme américaine rappelle que son Mode IA intègre des filtres de sécurité censés bloquer les requêtes liées à l’automutilation ou aux tentatives de contournement. L’un des avocats de la famille, Andrew Liddell, soutient pour sa part que ces dispositifs de protection se sont révélés totalement inefficaces face à des sollicitations répétées.
Cette procédure vient s’ajouter à d’autres actions en justice ciblant la responsabilité des agents conversationnels dans des drames personnels. En mars dernier, une plainte similaire a été déposée en Floride à la suite du suicide d’un homme de 36 ans. De plus, Google et la plateforme Character.ai ont conclu en janvier un accord à l’amiable avec plusieurs familles d’adolescents concernées par des dossiers comparables.
Une mise à jour des règles scolaires qui prive les élèves du moteur de recherche
À la suite des critiques formulées par les familles et les équipes pédagogiques, le géant américain a annoncé une modification de sa politique de gestion des comptes scolaires du primaire et du secondaire. Dès l’année prochaine, les fonctions basées sur l’intelligence artificielle seront désactivées par défaut sur Gemini, Google Classroom et le moteur de recherche pour les profils d’élèves, sauf activation explicite par les administrateurs.
Toutefois, cette mesure impose une contrainte technique majeure aux établissements scolaires :
- Les écoles ne peuvent pas désactiver les modules d’IA tout en conservant l’accès au moteur de recherche classique.
- La coupure des fonctionnalités d’IA entraîne automatiquement l’interruption complète de Google Search sur les comptes des élèves.
- Un message d’erreur signale alors l’indisponibilité totale de la recherche aux utilisateurs concernés.
Chris Phillips, vice-président de Google chargé de l’éducation, justifie ce fonctionnement indissociable par l’intégration profonde de l’IA au sein du moteur de recherche. Pour la défense des plaignants, cette formule contraignante force les établissements scolaires à exposer les mineurs à des risques technologiques ou à priver leurs élèves d’outils de recherche fondamentaux.