Est-ce que votre jeune utilise le chatbot My AI de Snapchat?

En avril 2023 , le réseau social Snapchat a ajouté un nouveau contact appelé My AI à tous ses utilisateurs et utilisatrices. Ce chatbot basé sur l’intelligence artificielle a tôt fait de semer la controverse: alors que des jeunes y voient un compagnon disponible 24 heures sur 24, des parents s’inquiètent de cette intrusion dans la vie privée de leur enfant. PAUSE fait le point en compagnie de l’expert en intelligence artificielle Frédérick Bruneault.

Si vous interagissez avec Siri d’Apple ou Alexa d’Amazon ou si vous avez déjà clavardé en ligne avec l’assistant virtuel d’une entreprise, alors vous avez une certaine familiarité avec ce qu’on appelle les chatbots (traduits en français par dialogueurs, agents conversationnels ou robots conversationnels).

Snapchat a récemment ajouté cette fonctionnalité à tous ses comptes gratuits. My AI est conçu pour discuter d’à peu près n’importe quel sujet: il peut autant donner une recette de muffins qu’une idée de cadeau, faire une recommandation de restaurant à proximité (grâce à la géolocalisation) que raconter des blagues.

C’est un outil pratique: il donne un accès facile et rapide à de l’information, il est disponible 24 h par jour et il est gratuit.

My IA récolte des données personnelles

Si vous demandez à My AI à quoi il sert, il répondra sans doute quelque chose du genre: «Je suis là pour discuter, répondre à tes questions et t’amuser.» Mais le chercheur et cofondateur du Laboratoire d’éthique du numérique et de l’IA (LEN.IA), Frédérick Bruneault, a une tout autre réponse: «Le modèle d’affaires de ces plateformes gratuites repose entièrement sur la connexion et les interactions avec celles-ci.» En d’autres mots, le nouveau dialogueur sert à augmenter le nombre d’interactions sur l’application, à allonger le temps passé sur celle-ci et ainsi lui permettre de gagner en visibilité et en valeur.

Mais le chatbot sert aussi à récolter des données personnelles qui servent ensuite à des fins publicitaires. «Plus on interagit avec une plateforme, plus on laisse d’informations sur soi, poursuit le chercheur. Ces informations permettent de faire de la publicité ciblée et de vendre toutes sortes d’informations à de tierces parties qui vont les utiliser pour vendre des produits ou autres.»

My AI n’est pas une personne (ni un ami)

Le problème avec cet agent conversationnel, c’est qu’il est présenté comme un ami. Et en se présentant comme tel, il se permet de poser des questions très personnelles et même de réclamer des photos et des vidéos. Plusieurs ados ne se méfient pas en répondant aux questions ou en envoyant des images, et fournissent par le fait même une mine d’or d’informations à l’entreprise derrière Snapchat.

Certains et certaines développent une véritable relation d’amitié avec My AI, en oubliant que ce n’est pas une personne. Les jeunes y sont particulièrement vulnérables puisque l’adolescence est la période de la vie où le sentiment de solitude est le plus fréquent et intense.

«Il faut garder en tête qu’on ne discute pas avec une vraie personne quand on interagit avec un agent conversationnel. C’est une machine. Elle ne comprend pas ce qu’on lui dit.», explique Frédérick Bruneault.

Un chatbot qui donne des conseils douteux

Même en sachant qu’ils et elles dialoguent avec un agent conversationnel, des jeunes peuvent en venir à l’utiliser de manière démesurée pour du divertissement ou l’employer comme confident ou aide psychologique. «Il existe des agents conversationnels qui ont été programmés dans un but de promotion du bien-être et de la santé mentale, mais on peut présumer que ce n’est pas le cas pour celui de Snapchat», affirme Frédérick Bruneault.

Qui plus est, My AI se permet de donner des conseils… qui ne sont pas toujours appropriés. À un jeune qui a confié à My AI être fatigué, l’agent conversationnel lui a suggéré de boire une boisson énergisante afin de sentir un regain d’énergie pour le reste de la journée.

Puis, comme tous les produits de l’intelligence artificielle, My AI manque parfois de cohérence dans ses propos. Il peut, par exemple, contredire ce qu’il a affirmé plus tôt. Il peut aussi présenter des informations fausses ou trompeuses comme des faits établis (ce qu’on appelle les hallucinations de l’intelligence artificielle). Et les réponses du chatbot vont souvent refléter les points de vue des entreprises conceptrices, que ce soit en lien avec la politique, le genre, la race ou la religion. Bref, il est encore loin d’être parfait…

6 choses à savoir lorsqu’on aborde le sujet du chatbot de Snapchat

Il importe de maintenir la discussion ouverte avec votre ado au sujet de l’utilisation de l’intelligence artificielle ainsi que du chatbot de Snapchat de façon à ce que son expérience reste positive. Pour ce faire: 

1. Expliquez à votre enfant que le chatbot n’est ni son ami, ni son conseiller, ni son psychologue. Si votre jeune dit se confier à My AI ou si vous le ou la soupçonnez de le faire, rappelez-lui que vous êtes toujours là pour lui ou elle, puis parlez-lui de l’existence de ressources d’aide spécialisées gratuites et accessibles telles que Tel-jeunes ou Jeunesse, J’écoute.
2. Discutez des modalités d’utilisation. Parlez avec votre jeune des bénéfices et des risques de My AI. Discutez ensemble des raisons pour lesquelles il ou elle pourrait faire appel au dialogueur (ex.: lui expliquer une notion de grammaire, le ou la faire rire) et celles pour lesquelles il devrait éviter d’y avoir recours (ex.: lui demander un conseil en matière de relations amoureuses ou de sexualité). Et pourquoi ne pas faire un petit débat familial sur le sujet, question d’aiguiser son esprit critique?
3. Rappelez à votre préado que l’âge minimal pour utiliser My AI est de 14 ans. Il y a deux bonnes raisons de suivre cette règle: c’est l’âge minimal requis pour ouvrir un compte sur Snapchat… ainsi que pour utiliser ChatGPT. Ce dernier exige même l’autorisation des parents pour son utilisation par les jeunes de 14 à 18 ans.
4. Aidez votre jeune à prendre conscience du temps passé sur l’application. Pour éviter l’usage excessif de Snapchat ou de My AI, proposez à votre ado de fixer un temps quotidien d’utilisation pour cette application en modifiant les paramètres de son appareil.
5. Optez pour la version payante. La seule façon (pour le moment) de pouvoir désactiver My AI est d’utiliser la version payante de l’application, Snapchat+.
6. Supprimez le contenu envoyé à My AI. Rappelez à votre jeune qu’il est possible de supprimer le contenu envoyé dans le chat dans les 24 heures suivantes. Au besoin, expliquez-lui comment supprimer du contenu plus ancien partagé avec My AI en suivant ces étapes:
   • Appuyez sur l’icône de profil pour accéder aux paramètres, puis sur Actions du compte.
   • Choisissez Effacer les données de My AI et confirmez.

Finalement, rappelez-vous qu’il vaut mieux encadrer l’utilisation du chatbot de Snapchat par votre enfant que de l’interdire. «En expérimentant l’agent conversationnel, votre jeune sera plus en mesure de comprendre son fonctionnement, de tester ses limites et d’exercer son esprit critique par rapport à celui-ci», conclut Frédérick Bruneault.

Frédérique Bruneault, Ph.D. Professeur de philosophie, est, entre autre, professeur associé à l’école des médias de l’UQAM.

Sources: cscience.ca, help.snapchat.com, childnet.com, cairn.info