Est-ce que Snapchat My AI est complètement sûr ?

Ce qu’il faut savoir

• Propulsé par la technologie GPT d’OpenAI, My AI est le chatbot de Snapchat avec lequel les utilisateurs peuvent interagir à partir de leur flux de chat.
• Mon IA de Snapchat semble être truffée de préjugés et de réponses inappropriées qui bafouent les directives de Snapchat et peuvent également connaître votre position sans votre permission.
• Nous vous recommandons de ne pas partager d’informations privées avec lui et de les modérer via Family Center pour contrôler le nombre de membres mineurs de la famille qui utilisent My AI.
• Dans son stade actuel, My AI ne semble pas très sûr. Lisez ci-dessous pour en savoir plus.

Suite au succès précoce des outils d’IA générative comme ChatGPT, les entreprises sont désormais engagées dans une course pour avoir l’IA sur leurs plateformes plus rapidement que la concurrence. Ceux qui ont les moyens d’intégrer cette technologie d’IA dans leurs plates-formes s’enfuient. Mais cela génère également beaucoup de critiques parmi leurs bases d’utilisateurs, et à juste titre. La récente publication du copain de chat de Snapchat « My AI » est un cas similaire.

Que vous soyez un vivaneau de longue date ou un nouveau venu, vous voudrez en savoir plus sur le module complémentaire « My AI » de Snapchat et ce que vous devez garder à l’esprit avant de commencer à l’utiliser.

Qu’est-ce que Mon IA sur Snapchat ?

Construit sur la technologie GPT d’OpenAI, My AI est le « chatbot expérimental et convivial actuellement disponible pour tous les Snapchatters » de Snapchat. Comme avec tout chatbot IA, vous pouvez converser avec lui sur un certain nombre de choses, lui faire raconter des blagues, donner des conseils, planifier des événements et des fêtes, et faire tout ce que vous attendez d’un chatbot amical, du moins en principe.

Auparavant disponible uniquement pour les utilisateurs de Snapchat +, My AI est désormais disponible pour l’ensemble de ses 750 millions d’utilisateurs, malgré le retard dans les mises à jour de livraison. Cela signifie qu’un certain nombre d’utilisateurs ont déjà commencé à l’utiliser, ou y sont obligés de toute façon, car il n’est pas toujours possible de le supprimer de Snapchat.

Il sera épinglé en haut de toutes vos discussions et peut accidentellement être introduit dans des conversations avec la simple mention de mots comme AI , même s’il ne devrait apparaître qu’avec la commande @MyAI .

Dans quelle mesure Snapchat My AI est-il sûr ?

Mon IA est (soi-disant) programmée pour respecter les propres consignes de sécurité de Snapchat afin de l’empêcher de fournir des informations nuisibles aux utilisateurs. Mais comme le dit Snapchat, « cela ne réussit peut-être pas toujours ». C’est une petite mise en garde, mais derrière laquelle Snapchat peut se cacher lorsque les utilisateurs commencent à se plaindre.

Déjà, beaucoup ont signalé que My AI ment sur ce qu’il sait sur vous, génère des réponses inattendues et déclenchera même des publicités payantes.

Un utilisateur de Twitter , inscrit en tant que fille de 13 ans, a reçu des conseils sur « comment mentir à ses parents… » et « comment perdre sa virginité à son 13e anniversaire ».

Un autre utilisateur a très facilement fait en sorte que My AI aille à l’encontre de ses directives, rappelant le DAN de ChatGPT, avec seulement quelques invites.

Être simultanément en cours de développement et globalement disponible pour les utilisateurs n’inspire pas beaucoup de confiance dans le chatbot. Et lorsque votre chatbot commence à mentir sur son accès à votre emplacement, ce n’est qu’un drapeau rouge après l’autre.

Il s’agit d’un changement clair par rapport à l’affirmation de Snapchat selon laquelle il « partage uniquement avec My AI votre emplacement au niveau de la ville ». Vous ne devez donc absolument pas partager d’informations personnelles avec My AI, ni admettre quoi que ce soit qui puisse vous compromettre de quelque manière que ce soit.

Est-ce que Snapchat My AI est sûr ?

La technologie GPT utilisée dans My AI de Snapchat lui permet d’exploiter le vaste potentiel du vaste modèle de langage et de la base de données de formation d’OpenAI. Mais tout comme ChatGPT n’est pas à l’abri de la diffusion de fausses informations, My AI peut également générer des réponses peu fiables et souvent inappropriées.

Il est également tout aussi biaisé que ChatGPT 3.5 et peut répondre de manière discriminatoire.

Bien que ses capacités soient actuellement limitées et que vous ne lui demandiez pas vraiment de coder pour vous, la nature de ses réponses fait de My AI un ami IA peu fiable. Néanmoins, Snapchat s’efforce de mieux modérer My AI et l’a depuis également ajouté dans le cadre des fonctionnalités de « Family Center » et de contrôle parental de l’application.

Mais à toutes fins utiles, My AI est clairement à un stade expérimental, et Snapchat est le premier à l’admettre. La course pour garder une longueur d’avance sur le jeu avec la technologie actuelle a fait non seulement Snapchat, mais de nombreuses plates-formes telles que la publication de leurs chatbots IA à l’avance, quel que soit l’état d’avancement de leur développement.

Au moment d’écrire ces lignes (25 avril 2023), il est difficile de considérer My AI comme sûr, surtout pour les jeunes.

La fonctionnalité My AI finira par s’améliorer avec suffisamment de temps et de commentaires. Jusque-là, soyez prudent autant que possible.

Comment signaler les messages reçus de My AI

Snapchat assure aux utilisateurs que seulement 0,01 % des réponses de My AI ne sont pas conformes à leurs directives. Mais étant donné le nombre de ces réclamations qui ont été mendiantes, le pourcentage semble trop beau pour être vrai.

Pour ce que ça vaut, si l’un des messages de My AI vous frotte dans le mauvais sens, vous pouvez le signaler à Snapchat. Appuyez simplement sur un message et maintenez-le enfoncé, puis sélectionnez Signaler .

FAQ

Jetons un coup d’œil à quelques questions fréquemment posées sur My AI de Snapchat.

Mon IA sur Snapchat est-elle une vraie personne ?

Non. Mon IA sur Snapchat est un chatbot IA, pas une vraie personne. Cependant, contrairement à une personne réelle, vous ne pouvez pas accepter si vous le souhaitez dans votre fil de discussion ou non, où il restera pour le meilleur ou pour le pire. Ne partagez aucune information privée avec lui.

Pourquoi Snapchat a-t-il créé My AI ?

My AI est la vision de Snapchat sur l’intégration des capacités de la technologie GPT d’OpenAI dans sa plate-forme de médias sociaux. Cette décision s’inscrit dans la tendance plus large de l’industrie à intégrer l’IA générative dans les plates-formes et à les ouvrir à une utilisation générale, quel que soit leur stade de développement.

Puis-je supprimer My AI sur Snapchat ?

Malheureusement, Mon IA sur Snapchat ne peut être supprimée que si vous êtes abonné à Snapchat+.

Dans son état actuel, My AI de Snapchat ne donne pas l’impression de sécurité ou de fiabilité. Cela peut changer au fil du temps à mesure qu’il se développe et qu’une meilleure modération est mise en place. Mais jusque-là, si vous n’êtes pas un utilisateur de Snapchat +, vous êtes coincé avec My AI, que cela vous plaise ou non.

• Comment activer Snapchat My AI
• Comment casser l’IA de Snapchat, mon IA [4 invites]
• Snapchat Mon IA ne fonctionne pas : 8 façons de réparer
• 2 façons d’envoyer un SMS à « Mon IA » sur Snapchat