Meta est au sérieux au sujet des adolescents qui utilisent ses services. L’année dernière, l’entreprise a déployé des « comptes pour adolescents » pour Instagram, qui ajoutent un certain nombre de restrictions, de limitations et de fonctionnalités pour les utilisateurs de moins de 18 ans. Plus tôt ce mois-ci, Meta a également déployé des comptes d’adolescents sur Facebook et Messenger, et élargi certaines de ces restrictions sur Instagram spécifiquement.
Si votre adolescent avait un compte Instagram standard lorsque Meta a commencé à le déployer, leur compte a été automatiquement transformé en compte d’adolescent. Bien sûr, cela n’a fonctionné que s’il avait son âge réel attaché au compte: si un adolescent disait que son anniversaire les avait fait 18 ans ou plus, aucun compte adolescent.
Meta’s IA est un snitching sur les adolescents Instagram
En réponse à cette échappatoire, Meta est en train de tâter son IA avec des adolescents enracinés qui prétendent être des adultes sur Instagram. La société a annoncé lundi l’expérience, révélant que les tests commenceront aux États-Unis le même jour. Meta est bref sur les détails ici, mais ils disent que si l’IA trouve un compte standard qu’il soupçonne d’être un adolescent, il les transmettra automatiquement à un compte adolescent – même si ce compte a un anniversaire adulte.
Ce n’est pas non plus le premier rodéo de Meta Ai. La société a utilisé un modèle d’IA formé pour déterminer si un utilisateur est mineur depuis 2022. Le modèle d’IA recherche des comportements associés aux utilisateurs adolescents, car, selon Meta, les personnes du même groupe d’âge réagissent de manière similaire à des types spécifiques de contenu. (Pensez à tous ces mèmes que vous ne comprenez pas.)
Un « disons » intéressant est livré avec des publications d’anniversaire: l’IA examine comment les utilisateurs interagissent avec un compte le jour de leur anniversaire et peuvent prendre une détermination à partir de là. Si l’IA voient beaucoup de messages et de DMS « joyeux 17e anniversaire, cela va être assez évident, mais même si les messages suivent la façon dont les utilisateurs de moins de 18 ans ont tendance à se souhaiter un joyeux anniversaire, l’IA sera rapidement suspecte.
Que se passe-t-il si l’IA se trompe?
Il y a probablement de nombreux parents qui n’ont aucun problème avec Instagram qui change automatiquement les profils de leurs enfants en comptes pour adolescents. Mais cette technologie est motivée par l’IA, et l’IA n’obtient pas toujours les choses: en tant que tel, il y a de fortes chances que l’IA signale accidentellement les comptes adultes en tant qu’adolescents, verrouillant les utilisateurs de 18 ans et plus en restrictions destinées aux mineurs.
Cela signifie que votre compte assumera automatiquement des restrictions assez drastiques: vous deviendrez privé si vous ne l’êtes pas déjà, et les utilisateurs adultes ne pourront pas voir vos messages ou vous faire passer sans suivre d’abord. Vous ne verrez pas de contenu « violent » ou de publications promouvant des procédures cosmétiques. (Peut-être qu’aucune perte là-bas.) Instagram vous avertira également chaque fois que vous utilisez l’application pendant 60 minutes en une journée, vous conseillant de vous arrêter. Et même si vous n’en avez pas besoin, votre compte entrera en « mode de sommeil » entre 22 heures et 7 heures du matin, en désintégrant les alertes et en envoyant des répliques automatique à DMS. (Pour être juste, peut-être que beaucoup d’entre nous adultes bénéficieraient de ces restrictions.)
Si Instagram pense que vous avez 16 ou 17 ans, vous pourrez désactiver manuellement certaines de ces limitations, mais ce n’est pas vraiment le point. Si vous êtes un adulte, vous ne devriez pas vous attendre à ce que Instagram change les paramètres de votre compte car son bot AI s’est trompé. Meta le sait aussi. Comme l’entreprise le dit, son article de blog: « Nous prenons des mesures pour nous assurer que notre technologie est exacte et que nous plaçons correctement les adolescents que nous identifions dans des paramètres protecteurs et adaptés à l’âge, mais au cas où nous ferons une erreur, nous donnons aux gens la possibilité de modifier leurs paramètres. »
L’entreprise n’a pas encore dit quelles sont encore ces étapes d’atténuation, donc je mettrai à jour cette pièce une fois que nous le saurons avec certitude. Je suppose, cependant, il y a une option dans les paramètres pour vérifier votre âge et transférer votre compte vers un compte adulte.
