« Ils tombent amoureux de leur IA » : 19 % des lycéens avouent une relation romantique avec un chatbot (et les écoles tirent la sonnette d’alarme)

L’usage des technologies d’intelligence artificielle (IA) dans les établissements scolaires suscite un intérêt croissant et soulève des questions complexes. Une récente étude menée par le Center for Democracy and Technology (CDT) met en lumière des tendances préoccupantes parmi les jeunes. Grâce à des enquêtes réalisées auprès de lycéens, parents et enseignants, il apparaît que les élèves adoptent massivement les outils d’IA, mais aussi qu’ils glissent vers des usages qui interpellent. Cette situation appelle à une réflexion approfondie sur le rôle que ces technologies doivent jouer dans l’éducation et la protection des jeunes.

Des IA qui écoutent, rassurent et séduisent

La relation des jeunes avec l’intelligence artificielle prend parfois des allures surprenantes. En effet, près d’un élève sur cinq affirme avoir développé une relation romantique avec une IA ou connaître quelqu’un dans ce cas. De plus, 42 % des élèves utilisent les chatbots comme amis, thérapeutes ou échappatoires à la réalité. Ces pratiques sont corroborées par une autre étude de Common Sense Media, révélant que 72 % des adolescents de 13 à 17 ans ont eu recours à un « compagnon IA », conçu pour simuler des interactions humaines. Elizabeth Laird, coautrice du rapport du CDT, estime crucial de rappeler aux élèves qu’ils interagissent avec un outil, et non une personne. Cette distinction est essentielle, surtout quand certains chatbots, comme ChatGPT, ont été liés à des cas tragiques de suicides et d’auto-mutilation. OpenAI réagit en introduisant récemment un contrôle parental pour ses outils.

« J’ai vu des clients hurler au guichet » : la nouvelle règle de la Caisse d’Épargne explose la patience et embrase la colère générale

Deepfakes et harcèlement

L’étude met également en avant les aspects plus sombres de l’IA, notamment l’essor des deepfakes. Environ 36 % des élèves ont entendu parler de deepfakes représentant des camarades dans des contextes souvent sexuels. Par ailleurs, 12 % connaissent l’existence d’images intimes générées sans consentement via IA. Ces technologies deviennent ainsi de nouveaux vecteurs de harcèlement sexuel et de cyberintimidation. Elizabeth Laird souligne que le manque de formation des enseignants aggrave cette situation, moins d’un quart d’entre eux ayant été formés pour gérer de tels incidents. Les fuites de données massives, signalées par 23 % des enseignants, ajoutent une couche de complexité à cette problématique, souvent en lien avec les outils d’IA utilisés dans les écoles.

« Ces pirates contrôlent vos voitures » : l’alerte de chercheurs expose la faille massive touchant des millions de véhicules électriques

L’encadrement est primordial

L’intelligence artificielle offre des opportunités considérables pour l’apprentissage et le soutien individualisé. Cependant, son utilisation personnelle par les jeunes échappe souvent au contrôle des adultes. L’étude souligne l’urgence de former élèves, parents et enseignants aux outils d’IA et de mettre en place des garde-fous clairs. Il est crucial d’éduquer sur les risques potentiels liés à la dépendance, la mauvaise influence ou les dérives graves. Le rapport met en lumière l’importance d’une réponse éducative adaptée pour faire face à l’augmentation du harcèlement numérique et à la fuite de données. Des mesures concrètes sont nécessaires pour garantir un environnement d’apprentissage sûr et éthique.

« 500 notes trafiquées en 2 ans d’infiltration » : cet étudiant de 21 ans terrorise l’Éducation Nationale avec un business de phishing que personne ne soupçonnait

Vers une meilleure régulation de l’IA en milieu scolaire

La complexité des interactions entre les jeunes et les technologies d’IA appelle à une régulation plus stricte. Les écoles, en collaboration avec les parents et les développeurs de technologies, doivent travailler ensemble pour définir des normes d’utilisation acceptables. L’intégration de programmes éducatifs spécifiques sur l’usage éthique de l’IA pourrait être une solution pour sensibiliser les jeunes aux dangers potentiels. Les gouvernements et les institutions scolaires doivent également prendre des mesures pour protéger la vie privée des élèves et assurer la sécurité des données. La mise en œuvre de politiques claires et la formation continue des éducateurs sont des éléments clés pour répondre aux défis posés par l’IA.

Face à ces enjeux, il est clair que l’intégration de l’IA dans le système éducatif doit être accompagnée d’une vigilance accrue et d’une adaptation constante. Comment les écoles peuvent-elles équilibrer les bénéfices pédagogiques de l’IA avec la nécessité de protéger leurs élèves des risques associés ?