OpenAI lance ChatGPT pour ados, une version plus sécurisée adaptée aux moins de 18 ans
Pour limiter les dérives auprès des plus jeunes, ChatGPT se dote d'un mode spécial destinés aux adolescents. Au programme : des protections renforcées, des outils destinés aux parents et un module dédié à l'apprentissage.
Depuis le lancement de ChatGPT en novembre 2022, l'utilisation du l'IA et en particulier des robots conversationnels par les plus jeunes a suscité de nombreuses levées de boucliers. Les cas de suicide, d'overdose et autres drames survenus après des échanges entre un adolescent et une IA ne sont malheureusement pas rares, cette dernière ayant tendance à les isoler socialement, à les enfermer dans leurs convictions, à les encourager dans leurs projets morbides et à leur fournir certaines informations dangereuses qu'ils auraient eu du mal à se procurer autrement.
En réponse à ces tragiques événements, OpenAI a vite mis en place un contrôle parental, avec notamment des garde-fous renforcés (voir notre article), en annonçant l'arrivée prochaine d'un mode spécialement conçu pour les adolescents. C'est désormais chose faite ! L'entreprise est en train de déployer une version de l'IA spécialement adaptée aux adolescents de 13 à 17 ans.
Baptisée ChatGPT pour ados, elle applique automatiquement des protections renforcées lorsqu'un utilisateur est identifié comme mineur, tout en proposant des outils davantage orientés vers l'apprentissage. L'objectif est de permettre aux adolescents de profiter de l'intelligence artificielle sans les exposer aux mêmes contenus ou usages que les adultes.
ChatGPT pour ados : des restrictions et des garde-fous renforcés
Le mode adolescent est conçu "pour aider les adolescents à développer leur esprit critique, à approfondir leur compréhension et à utiliser l'IA en toute confiance […] de manière responsable pour apprendre, créer et explorer". Ainsi, les jeunes bénéficient par défaut de garde-fous renforcés autour de plusieurs catégories de contenus considérées comme particulièrement sensibles pour leur âge, comme l'automutilation, la violence graphique, les troubles alimentaires, les activités dangereuses ainsi que les contenus sexuels explicites. L'objectif n'est pas uniquement de bloquer les demandes, mais aussi d'adapter les réponses du chatbot afin de réduire l'exposition à des contenus susceptibles d'être inappropriés pour un adolescent.
OpenAI cherche également à limiter le risque que les adolescents se mettent à considérer ChatGPT comme un véritable interlocuteur humain. Le comportement du chatbot est ainsi davantage encadré pour éviter les échanges romantiques ou affectifs et les formulations pouvant laisser penser que l'intelligence artificielle éprouve des sentiments ou possède une conscience.
Enfin, OpenAI veut faire de ChatGPT un outil davantage tourné vers l'apprentissage qu'un simple fournisseur de réponses. C'est pourquoi il met en avant le mode Étudier, censé guider les étudiants dans la résolution de leurs devoirs plutôt que de leur donner immédiatement une réponse. À la place, le chatbot pose des questions intermédiaires et accompagne l'élève étape par étape afin de l'amener à construire lui-même son raisonnement. Il permet également d'instaurer des rappels de pause et des heures de tranquillité. Il est d'ailleurs possible de définir des horaires durant lesquels le mode Étude est activé par défaut.
Notons que les parents disposent de leur côté de plusieurs outils pour encadrer l'utilisation de ChatGPT. Ils peuvent associer leur compte à celui de leur adolescent et configurer différents paramètres, notamment les heures durant lesquelles le service peut être utilisé. Ils peuvent également désactiver certaines fonctions comme la mémoire, le mode vocal ou la génération d'images
ChatGPT pour ados : concilier protection, liberté et confidentialité
Le mode ChatGPT pour les adolescents s'active lorsqu'un utilisateur indique avoir entre 13 et 17 ans, bien évidemment, mais repose également sur un système de détection d'âge pour ceux qui seraient tentés de mentir. Ainsi, si le service estime qu'un compte appartient probablement à un mineur, il appliquera directement le mode destiné aux adolescents. L'entreprise n'a toutefois pas détaillé précisément les critères utilisés pour déterminer l'âge d'un utilisateur.
D'après les informations précédemment communiquées par OpenAI, le système de détection d'âge se base sur le contenu des conversations entre l'utilisateur et le chatbot ainsi que les informations renseignées. Mais l'entreprise est bien consciente que la technologie de détection d'âge est complexe et sujette à des erreurs.
À son lancement, l'efficacité du système d'estimation de l'âge avait eu quelques ratés, puisqu'il était facile de contourner ces restrictions en demandant à un proche majeur de déposer une photo de lui ou en conversant avec ChatGPT de manière à dévoiler peu d'information sur son âge. Aussi, au moindre doute, OpenAI préfère appliquer le mode pour adolescents par défaut. Et, dans le cas où un adulte serait pris pour un mineur et souhaiterait accéder à des fonctions qui lui seraient alors interdites, ChatGPT se réserve le droit de demander une pièce d'identité pour attester de sa majorité. Une mesure assez invasive qui est loin de faire l'unanimité.
Car c'est là tout le cœur du problème. OpenAI doit essayer de trouver le difficile équilibre entre la liberté des adultes, la sécurité des mineurs et le respect de la vie privée. Et, malheureusement, certains de ces principes entrent en contradiction…