Les décideurs politiques risquent de répéter les erreurs qu’ils ont commises en essayant de gouverner les médias sociaux dans leur empressement à protéger les enfants des dangers potentiels posés par les chatbots IA, selon un nouveau rapport d’un groupe de réflexion de Washington, DC.
En cherchant des solutions aux préjudices réels ou présumés causés aux enfants sur les réseaux sociaux, les décideurs politiques se sont tournés vers des politiques erronées – telles que la vérification de l’âge et les interdictions pures et simples – qui privent les enfants des avantages des réseaux sociaux au lieu de cibler réellement leurs risques, affirme le rapport publié par la Fondation pour les technologies de l’information et l’innovation (ITIF).
Le rapport, rédigé par l’analyste politique Alex Ambrose, affirme que les législateurs recyclent désormais ce manuel pour les chatbots d’intelligence artificielle (IA), ou les systèmes qui traitent les entrées des utilisateurs pour répondre par une conversation simulée.
Mais le playbook ne fonctionne ni pour l’IA ni pour les chatbots, affirme-t-il.
Dans le même temps, poursuit le rapport, des événements malheureux récents tels que les suicides d’enfants, les fusillades violentes et la radicalisation des jeunes établissent clairement la nécessité d’une réglementation efficace sur les chatbots concernant la sécurité en ligne des enfants.
Mais l’importation de cadres de médias sociaux inefficaces dans les chatbots ne répond pas correctement aux problèmes de sécurité des enfants et, au minimum, gêne les utilisateurs adultes, ajoute-t-il.
Concentrez-vous sur les garanties ciblées
Le rapport affirme que les meilleurs moyens pour les décideurs politiques d’aborder la sécurité des chatbots pour les enfants sont de se concentrer sur la transparence, des garanties ciblées et l’autonomisation des parents.
« Se concentrer sur la transparence, des garanties ciblées et donner plus de contrôle aux parents rend les chatbots plus sûrs, car ces approches peuvent remédier à des préjudices documentés, tels que des conversations abordant des sujets de préjudices physiques ou mentaux extrêmes, et des fonctionnalités qui permettent des relations parasociales malsaines avec les chatbots, tout en ne restreignant pas trop l’accès à la technologie », a déclaré Ambrose à TechNewsWorld.
La transparence permet aux parents de savoir ce que le chatbot peut faire et quelles données il collecte, a expliqué Rohit Poduval, ingénieur logiciel senior chez Amazon et membre de l’Integrity Institute, un groupe de réflexion mondial composé de techniciens ayant une expérience pratique de l’identification et de l’atténuation des dommages sur les réseaux sociaux et les plateformes Internet.
« Des garanties ciblées répondent à des dommages spécifiques sans bloquer l’utilisation légitime », a-t-il déclaré à TechNewsWorld. « On peut par exemple interdire à un chatbot de simuler des relations amoureuses avec des mineurs sans bloquer l’aide aux devoirs. »
« Le contrôle parental permet aux familles de fixer des limites qui correspondent à la maturité de leur enfant », a-t-il déclaré. « Ces trois-là réunis placent le contrôle là où il doit être : avec des parents informés, un accès approprié et des règles claires pour les plateformes. »
« Bien sûr, il est important de mettre en place de la transparence et des garanties ciblées avec les chatbots. Cependant, il est crucial que les parents comprennent les risques auxquels ils doivent faire attention dès le départ », a ajouté Jeffrey Nadrich, fondateur et avocat général de Nadrich Accident Injury Lawyers à Los Angeles.
« Dans de nombreux cas, les parents n’ont aucune idée que leur enfant a des conversations de plusieurs heures avec un chatbot en ligne », a-t-il déclaré à TechNewsWorld.
Le contrôle parental a des limites
Madeline Pendley, avocate chez Rafferty Domnick Cunningham & Yaffa à Palm Beach Gardens, en Floride, a souligné que si la transparence, les garanties ciblées et l’autonomisation des parents peuvent certainement rendre les chatbots plus sûrs, ils ne sont efficaces que lorsque les plateformes construisent, maintiennent et exigent l’utilisation de ces outils.
Par exemple, le système de drapeaux enfants proposé dans le rapport est un excellent outil qui devrait être mis en œuvre par les plateformes d’IA. « Cependant, tel qu’appliqué, cela impose toujours aux parents l’obligation de signaler l’appareil de manière positive », a-t-elle déclaré à TechNewsWorld.
« En théorie, cela pourrait être l’une des nombreuses fonctionnalités requises pour prévenir les dommages liés à l’IA, mais cela n’est pas suffisant en soi », a-t-elle soutenu.
« Cela est vrai pour de nombreux contrôles parentaux sur les plateformes Web », a-t-elle déclaré. « Ils sont facilement contournés, ou les parents ne savent pas les appliquer. »
« Donner aux parents les moyens d’agir et encourager l’alphabétisation numérique est certainement crucial », a-t-elle ajouté, « mais l’obligation n’incombe pas aux parents de garantir la sécurité des plateformes. Il incombe aux développeurs de plateformes. »
Trop de poids pour les parents
La transparence et les garanties ciblées sont absolument les bonnes priorités, a reconnu Whitney Ray Di Bona, avocate et défenseur de la sécurité des consommateurs chez Drugwatch, un site Web axé sur les médicaments d’ordonnance dangereux et les dispositifs médicaux défectueux. « Là où je suis en désaccord avec ce rapport, c’est le poids qu’il accorde à la supervision parentale comme solution principale », a-t-elle déclaré à TechNewsWorld.
« À mon avis, imposer aux parents la responsabilité de protéger leurs enfants des méfaits des chatbots IA méconnaît fondamentalement la réalité dans laquelle vivent la plupart des familles », a-t-elle soutenu.
« De nombreux parents ne savent pas que leurs enfants utilisent ces outils », a-t-elle poursuivi. « Beaucoup ne comprennent pas vraiment ce que sont les chatbots IA ni comment ils fonctionnent. Et beaucoup ne sont tout simplement pas en mesure de surveiller l’utilisation de la technologie par leurs enfants 24 heures sur 24. »
« Ce n’est pas un échec parental », a-t-elle déclaré. « C’est une réalité dont les décideurs politiques et les entreprises doivent tenir compte. »
Les contrôles parentaux à eux seuls ne suffisent pas, a ajouté Alex Zeig, PDG et fondateur de BlueCheck, une société de vérification de l’identité et de l’âge à Austin, au Texas. « Un parent peut verrouiller un appareil domestique tout en laissant son enfant regarder du contenu non modéré sur un Chromebook scolaire », a-t-il déclaré à TechNewsWorld. « Ce n’est pas un échec parental, car les parents ne peuvent pas gagner un jeu qui s’étend sur tous les appareils, tous les réseaux, toutes les plateformes que leur enfant pourrait rencontrer. »
« C’est ici que je pense que la vérification de l’âge est importante », a-t-il poursuivi. « Si une plateforme sait qu’elle s’adresse à un enfant de 12 ans au lieu de 32 ans, elle doit réellement corriger ce qu’elle sert à cet enfant. La vérification de l’âge n’aide pas seulement les parents. Elle change qui est responsable. »
De larges restrictions soulèvent des problèmes de confidentialité et de parole
Le rapport de l’ITIF soutient également que de nombreux projets de loi visant à protéger les enfants contre les méfaits des chatbots se trompent en transplantant simplement des approches inefficaces des médias sociaux, telles que la vérification de l’âge, les restrictions de contenu et les interdictions générales.
« Ces dispositions sont inefficaces parce que, dans leur tentative de protéger les enfants contre les dangers, ces politiques restreignent l’accès des enfants et des adultes à l’information », a expliqué Ambrose de l’ITIF.
« Ils confient également la décision aux parents, qui peuvent être plus à même de décider quels chatbots IA sont appropriés pour leurs enfants, en fonction de leurs propres connaissances sur la maturité de leurs enfants, le niveau de supervision d’un adulte et l’utilisation prévue », a-t-elle ajouté.
Le nouveau rapport de l’ITIF soutient à juste titre que les interdictions généralisées, les restrictions de contenu et la vérification de l’âge des chatbots sont inefficaces, contre-productives et soulèvent des problèmes liés au premier amendement, a convenu David Inserra, chercheur en liberté d’expression et technologie au Cato Institute, un groupe de réflexion de Washington, DC.
« Les exigences de vérification massive de l’âge pour l’IA soulèvent des problèmes majeurs en matière de confidentialité qui refroidissent également la parole », a-t-il déclaré à TechNewsWorld. « Comme le soutient le rapport de l’ITIF, exiger une pièce d’identité, des informations biométriques ou toute autre forme d’identification crée des risques pour la vie privée en obligeant les sociétés d’IA à collecter et à stocker des données sur les individus utilisant leurs services. »
« Les restrictions de contenu et les interdictions générales présentent également des problèmes plus directs en matière de liberté d’expression », a-t-il poursuivi. « Exiger des entreprises qu’elles protègent les enfants des contenus violents, harcelants, entraînant la dépression ou l’anxiété, ou autrement dangereux pour les mineurs, constitue une censure basée sur le contenu qui est constitutionnellement douteuse, et pour cause. Les Américains ne sont pas d’accord sur les types de contenu qui sont préjudiciables ou dangereux pour les enfants. »
Les développeurs laissés pour compte
Parmi les recommandations les plus fortes du rapport figurent celles concernant les contrôles et l’éducation, selon Giselle Fuerte, fondatrice et PDG de Being Human With AI. Il s’agit notamment de donner aux parents le contrôle de fonctionnalités telles que le langage flagorneur et de développer une culture numérique afin que les enfants puissent appliquer leurs compétences de pensée critique en développement aux chatbots.
Les contrôles parentaux peuvent combler les lacunes dans lesquelles les enfants ne sont pas encore prêts sur le plan cognitif à gérer les risques comme le peuvent les adultes, a ajouté Fuerte, dont la société de Spokane, Washington, se concentre sur l’éducation à l’éthique de l’intelligence artificielle.
« Mais ce cadrage permet aux développeurs de se tirer d’affaire », a-t-elle déclaré à TechNewsWorld. « Il prend les commandes d’un système de prédiction de texte extrêmement imprévisible – un système doté d’une « boîte noire » de raisonnement si opaque qu’il existe désormais un champ entier de chercheurs en IA pour le démêler – et les confie à des parents déjà surmenés, leur demandant d’être les gardiens ultimes d’un système impliqué dans la mort d’enfants comme Adam Raine. C’est un lourd fardeau à décharger sur le consommateur. «
« Le rapport ne va pas assez loin en imposant des restrictions de conception qui imposeraient aux développeurs la responsabilité de livrer des produits sûrs en premier lieu, plutôt qu’aux parents de s’assurer que leur enfant ne se coupe pas à cause d’un défaut de conception », a-t-elle déclaré.
Avec des protections efficaces en place, les chatbots et autres technologies basées sur l’IA peuvent être des outils bénéfiques pour les enfants, a ajouté Jessica Bregant, professeure adjointe de droit et professeure associée au département de psychologie de l’Université de Houston.
« L’avantage le plus évident est la maîtrise d’une technologie qui semble susceptible de constituer une partie importante de leur travail et de leur vie à l’avenir », a-t-elle déclaré à TechNewsWorld.
« Je suis encouragée par de nouvelles études montrant que travailler avec des chatbots IA peut en fait soutenir l’apprentissage plutôt que de le supplanter, comme beaucoup le craignaient », a-t-elle ajouté. « Les enfants sont particulièrement flexibles dans leur réflexion et leur apprentissage, et les enfants d’aujourd’hui développeront probablement des façons d’interagir avec l’IA que nous ne pouvons pas encore imaginer. »
« Pour le meilleur et pour le pire, cette technologie fait partie de la culture, et donner aux enfants les moyens de l’utiliser de manière responsable sera un défi pour tous ceux qui sont parents ou éducateurs », a-t-elle déclaré.
