Comme Facebook, Instagram et TikTok avant lui, ChatGPT est aujourd'hui au centre du débat sur la protection des mineurs en ligne. Son créateur, OpenAI, vient d'annoncer de nouvelles mesures pour ses 700 millions d'utilisateurs hebdomadaires : en plus d'un contrôle parental présenté il y a quelques semaines, l'entreprise va désormais vérifier l'âge des utilisateurs et proposer à ceux identifiés comme mineurs une expérience légèrement différente.

Ce ChatGPT « spécial ado » intervient alors que trois familles poursuivent des acteurs de l'IA : l'une vise OpenAI, les deux autres CharacterAI. Elles accusent leurs chatbots d'avoir assisté et encouragé le suicide de leurs enfants. Plus largement, des parents inquiets alertent sur l'impact de ces technologies sur la santé mentale des jeunes. Ils ont été entendus au Congrès américain mardi 16 septembre, le jour même des annonces d'OpenAI.

Deviner l'âge en analysant les conversations

Concrètement, l'entreprise s'engage à mettre au point un système de vérification d'âge à partir de l'analyse des conversations des utilisateurs. Elle n'en dit pour le moment rien de plus. En cas de doute, l'utilisateur sera considéré comme ayant moins de 18 ans. Dans certains pays et dans certains cas, une carte d'identité pourra être demandée, explique OpenAI dans un communiqué sans préciser lesquels.

Dans la version « ado » de ChatGPT, l'utilisateur ne pourra pas discuter de suicide ou de mutilation avec le chatbot, ni engager une forme de séduction,