Meta se tourne vers l’intelligence artificielle pour appliquer des restrictions d’âge sur ses plateformes.
Dans un article en ligne, la société a expliqué qu’elle utiliserait l’IA pour analyser les profils des utilisateurs à la recherche d’indices contextuels de violations des restrictions d’âge.
« Nous recherchons ces signaux dans différents formats, comme les publications, les commentaires, les biographies et les légendes, et nous continuons à étendre cette technologie à d’autres parties de nos applications comme Instagram Reels, Instagram Live et les groupes Facebook », écrit-il.
« Si nous déterminons qu’un compte est peut-être mineur », ajoute-t-il, « il sera désactivé et le titulaire du compte devra fournir une preuve d’âge via notre processus de vérification de l’âge pour empêcher la suppression de son compte. »
Meta déploie également des outils d’analyse visuelle qui permettront à son IA de numériser des photos et des vidéos à la recherche d’indices liés à l’âge que le texte pourrait manquer.
« Nous voulons être clairs : il ne s’agit pas de reconnaissance faciale », a prévenu l’entreprise. « Notre IA examine des thèmes généraux et des indices visuels, par exemple la taille ou la structure osseuse, pour estimer l’âge général d’une personne ; elle n’identifie pas la personne spécifique dans l’image. »
« En combinant ces informations visuelles avec notre analyse du texte et des interactions, nous pouvons augmenter considérablement le nombre de comptes mineurs que nous identifions et supprimons », note-t-il.
« Notoirement peu fiable »
L’approche de Meta en matière de vérification de l’âge a ses critiques. « Bien qu’il existe plusieurs méthodes de vérification de l’âge sur le marché, il n’existe aucune technologie disponible qui soit entièrement protectrice de la vie privée, totalement précise et qui garantisse une couverture complète de la population », a observé Rindala Alajaji, directrice associée des affaires d’État à l’Electronic Frontier Foundation, un groupe international de défense des droits numériques à but non lucratif basé à San Francisco.
« Le problème avec ‘l’estimation de l’âge’, c’est que c’est exactement cela : une supposition », a-t-elle déclaré à TechNewsWorld. « Et c’est intrinsèquement imprécis. »
« L’estimation de l’âge est notoirement peu fiable, en particulier pour les adolescents – les lois exactes sur la vérification de l’âge des groupes prétendent protéger », a-t-elle affirmé. « Un algorithme peut indiquer à un site Web que vous avez entre 15 et 19 ans. Ce n’est pas utile lorsque la limite est de 18 ans, et ce qui est en jeu, ce sont les droits constitutionnels d’un jeune. »
Alajaji a également souligné que les systèmes d’estimation de l’âge du visage échouent systématiquement pour certains groupes. « Les personnes de couleur sont régulièrement identifiées à tort, les personnes trans et non binaires sont souvent mal classées, et les personnes handicapées qui affectent leur apparence ne rentrent pas dans les paramètres de formation de l’algorithme, ou toute personne qui ne correspond pas à la « norme » algorithmique est signalée », a-t-elle expliqué.
Cependant, Alex Ambrose, analyste politique à l’Information Technology & Innovation Foundation, un organisme de recherche et de politique publique de Washington, DC, a soutenu que même si la technologie d’analyse visuelle n’est pas parfaite, elle est précise et continue de s’améliorer.
« Si les services en ligne pouvaient utiliser l’IA pour estimer de manière fiable l’âge des utilisateurs sans collecter ni stocker leurs informations personnelles, ils éviteraient de nombreux problèmes associés aux exigences de vérification de l’âge », a-t-elle déclaré à TechNewsWorld.
Problèmes de confidentialité
La décision de Meta a également soulevé des problèmes de confidentialité. « Je peux comprendre leur approche, mais elle a des implications en matière de confidentialité », a déclaré Mohamed Yousuf, PDG de Smart Workforce AI, à Toronto, une plateforme d’intelligence de la main-d’œuvre.
« Lorsque l’IA analyse les publications, les légendes, les commentaires, les indices d’anniversaire et les photos pour déterminer l’âge, elle passe d’une simple vérification de l’âge à une analyse comportementale et contextuelle plus large », a-t-il déclaré à TechNewsWorld.
« Le principal problème est de maintenir les choses justes et équilibrées », a-t-il déclaré. « Comment les données sont-elles analysées ? Combien de temps sont-elles conservées ? Comment les décisions sont-elles expliquées ? Comment les utilisateurs peuvent-ils faire appel de résultats incorrects ? »
« Meta affirme que son objectif est la sécurité et des expériences adaptées à l’âge, mais les utilisateurs ont toujours besoin de transparence sur le fonctionnement de ces systèmes et sur ce qui est évalué », a-t-il ajouté.
Le profilage par âge basé sur l’IA fonctionne en agrégeant les signaux faibles, notamment les modèles comportementaux, l’historique des appareils, les habitudes d’engagement et le contexte des graphiques sociaux, a expliqué Husnain Bajwa, vice-président principal des produits et des solutions de risque chez Seon Technologies, une société mondiale de prévention de la fraude et de conformité anti-blanchiment d’argent.
« Aucun de ces éléments n’est très sensible en soi, mais ensemble, ils forment un profil comportemental détaillé », a-t-il déclaré à TechNewsWorld. « Cela crée de réels problèmes de confidentialité concernant le consentement, l’explicabilité, les préjugés et la minimisation des données, en particulier lorsque les sujets sont des mineurs qui ne comprennent peut-être pas l’ampleur des inférences qui se produisent dans les coulisses. »
Outil de sécurité ou système de surveillance ?
L’approche high-tech de Meta en matière de vérification de l’âge demande à ses utilisateurs de fournir des informations personnelles dans le cadre d’un système de surveillance progressive, a affirmé Chris Hutchins, fondateur et PDG de Hutchins Data Strategy Consultants, une société de conseil axée sur les soins de santé à Nashville, Tennessee.
« Ce compromis en matière de confidentialité devrait susciter des inquiétudes, et Meta n’a pas le droit de minimiser les inquiétudes du public de manière aussi insensible », a-t-il déclaré à TechNewsWorld. « Les mêmes données de confidentialité collectées lors de la surveillance seront réutilisées pour fournir des publicités ciblées et suggérer du contenu, comme cela a été le cas dans le passé. »
« La principale préoccupation ici est la profondeur du filet contextuel », a ajouté Giselle Fuerte, fondatrice et PDG de Being Human With AI, une entreprise axée sur l’éducation à l’éthique de l’intelligence artificielle à Spokane, Washington.
« Meta recherche essentiellement des révélations dans nos interactions privées et semi-privées », a-t-elle déclaré à TechNewsWorld. « Bien qu’ils considèrent cela comme une question de sécurité, il s’agit d’une forme de surveillance comportementale. »
« Nous devons réfléchir à ce qu’il advient des quantités massives de données récupérées pour faire ces estimations : ce score de ‘probabilité d’âge’ est-il ajouté à nos profils publicitaires permanents ou utilisé pour former de futurs modèles plus invasifs ? » elle a demandé.
Les critiques appellent cela du théâtre de sécurité
Priten Soundar-Shah, chercheur à Harvard en politique de gestion de l’éducation et auteur de « Ethical Ed Tech : How Educators Can Lead on AI and Digital Safety in K-12 », a soutenu que Meta agit en réaction aux demandes croissantes d’application de la loi de l’UE et de l’État du Nouveau-Mexique.
« Plutôt que de se concentrer sur la manière dont Meta peut utiliser des méthodes traditionnelles qui ont été utilisées par d’autres sites dans le passé pour contrôler efficacement l’âge, comme les API de vérification et les contrôles d’identité, ils choisissent de s’appuyer sur la technologie de l’IA qui comporte ses propres risques », a-t-il déclaré à TechNewsWorld.
Tout en reconnaissant que Meta n’utilise pas la reconnaissance faciale pour vérifier l’âge, Soundar-Shah a souligné que le profilage corporel repose toujours sur des hypothèses sur la façon dont certains âges apparaissent.
« Cela finit par affecter de manière disproportionnée les étudiants qui ne constituent pas la majorité de l’ensemble de données », a-t-il déclaré. « Cela inclut les étudiants ayant des identités trans, les étudiants queer, les étudiants de couleur et les étudiants ayant des modèles de développement différents. L’idée selon laquelle il existe une nette différence d’apparence visuelle entre un enfant de treize et un enfant de douze ans est catégoriquement fausse. «
Soundar-Shah a affirmé que l’utilisation de la technologie de profilage corporel semble être un moyen de créer un théâtre de sécurité performatif autour de ce que Meta fait pour appliquer réellement les restrictions d’âge, plutôt que d’élaborer une stratégie durable qui ne repose pas sur une collecte et un profilage approfondis de données. «C’est aussi une façon d’éviter de prendre de réelles responsabilités», a-t-il soutenu.
« Dans le meilleur des cas, ils mènent une expérience qui n’a pas été testée sur des mineurs, déployant exactement le type de technologie que nous devrions éviter compte tenu des échecs du passé », a-t-il déclaré. « Dans le pire des cas, ils connaissent les risques potentiels et ils le déploient quand même, car les aspects réglementaires dépassent tout coût pour eux. »
« Il ne s’agira pas d’un scénario où une solution unique résoudra tout », a-t-il ajouté. Il a appelé à ce que les responsabilités en matière de vérification de l’âge soient partagées entre les plateformes de médias sociaux, les parents et les magasins d’applications.
« Si tout repose sur l’analyse des images par l’IA », a-t-il poursuivi, « il est très facile pour un enfant de décider de ne pas publier d’images, ou de publier uniquement des images générées par l’IA, et cela n’aide pas réellement à résoudre le problème fondamental. »
