L’intelligence artificielle ne remplace pas le psychologue : une étude met en garde les parents inquiets

Les plateformes d’intelligence artificielle, telles que ChatGPT, Claude, Gemini, et Meta AI, sont de plus en plus utilisées par les adolescents, notamment pour le soutien psychologique. Cependant, une étude récente menée par Common Sense Media, en partenariat avec Stanford Brainstorm Lab, met en lumière les dangers potentiels de cette utilisation. Malgré les améliorations technologiques, ces chatbots pourraient ne pas être adaptés à la gestion des problèmes de santé mentale des jeunes. Le rapport souligne l’importance de comprendre les limites de ces outils et d’encourager une utilisation consciente et encadrée.

L’IA et les failles dans l’accompagnement des adolescents

L’évaluation de Common Sense Media révèle des défaillances importantes des chatbots IA dans le traitement de troubles comme l’anxiété, la dépression, et le TDAH. Ces troubles, qui affectent environ 20 % des adolescents, nécessitent une attention particulière. Selon Robbie Torney, directeur principal des programmes d’IA, les jeunes utilisent souvent ces outils pour se sentir moins seuls. Pourtant, les chatbots ont échoué à reconnaître des signes évidents de détresse, se concentrant sur des aspects physiques plutôt que mentaux.

Les chercheurs ont observé que ces IA avaient tendance à fournir des conseils généraux, manquant l’opportunité d’orienter les jeunes vers une aide professionnelle. Cela est préoccupant, car trois adolescents sur quatre recourent à l’IA pour de la compagnie. Ces résultats soulignent la nécessité d’une vigilance accrue des parents et des éducateurs concernant l’utilisation des chatbots par les jeunes.

« Ce simple réflexe peut stopper le stress » : une découverte révèle comment reprendre le contrôle de votre vie (et éviter l’épuisement)

Recommandations pour éviter les dangers

Face à ces constats, Common Sense Media recommande aux parents de ne pas laisser leurs enfants utiliser les chatbots pour des questions de santé mentale. Il est crucial d’engager un dialogue sur l’utilisation de l’IA et de surveiller tout signe de dépendance émotionnelle. L’organisation suggère également aux entreprises de restreindre l’accès de leurs produits aux adolescents pour ces usages spécifiques.

Les entreprises développant ces technologies sont encouragées à implémenter des mesures de sécurité qui protègent les adolescents. Limiter ou bloquer l’utilisation de l’IA pour le soutien émotionnel pourrait être une solution. Ces recommandations visent à garantir que les jeunes accèdent à des ressources adaptées à leurs besoins psychologiques.

Le narcissisme : peut-on vraiment le soigner ? Ce que la science révèle sur cette quête humaine fascinante

Les réponses des entreprises technologiques

Les entreprises mentionnées dans l’étude ont réagi à ces conclusions. OpenAI, créateur de ChatGPT, a précisé que l’étude ne reflète pas les mesures de sécurité en place. L’entreprise travaille avec des experts pour assurer la sécurité des adolescents, notamment en développant une fonctionnalité pour détecter l’âge des utilisateurs et ajuster les modèles en conséquence.

Google, pour sa part, a souligné l’existence de politiques spécifiques pour les utilisateurs mineurs sur Gemini. Meta a mentionné que de récentes mises à jour visent à mieux protéger les adolescents. Quant à Anthropic, fournisseur du chatbot Claude, il a rappelé que sa technologie n’est pas destinée aux mineurs et que son utilisation est interdite aux moins de 18 ans.

« Se doucher moins pour mieux vieillir » : les dermatologues recommandent deux douches par semaine et du savon un jour sur trois pour préserver la peau des seniors

Vers une utilisation plus responsable de l’IA

Cette étude met en lumière le besoin d’une utilisation plus responsable et encadrée de l’intelligence artificielle dans le soutien psychologique des jeunes. Les parents, éducateurs et entreprises ont tous un rôle à jouer pour s’assurer que les adolescents ne se tournent pas vers l’IA en lieu et place de ressources humaines qualifiées. La technologie, bien qu’avancée, ne peut remplacer le jugement et l’empathie humains nécessaires dans la gestion de la santé mentale.

Quels sont les moyens les plus efficaces pour sensibiliser les jeunes aux limites de l’IA dans le domaine de la santé mentale et garantir qu’ils aient accès aux ressources appropriées ?