La sécurité en ligne ne consiste plus seulement à éviter les mauvais liens et à utiliser des mots de passe forts. À mesure que l’intelligence artificielle (IA) générative fait désormais partie de la vie quotidienne, les gens doivent également apprendre à reconnaître les contenus persuasifs générés par l’IA, les deepfakes et d’autres formes de tromperie numérique de plus en plus convaincantes.
La sécurité numérique traditionnelle est axée sur l’authentification multifacteur, le verrouillage des icônes dans les URL et l’évitement des pièces jointes douteuses. L’IA générative a accru ces risques en produisant des réponses convaincantes, des voix clonées, des critiques synthétiques et d’autres contenus conçus pour paraître dignes de confiance même lorsqu’ils sont faux. La plus grande vulnérabilité n’est plus de cliquer sur le mauvais lien mais de faire confiance à la mauvaise réponse.
Les personnes âgées peuvent être particulièrement vulnérables à ces risques. Selon Tony Krueck, vice-président directeur de Cox Mobile chez Cox Communications, une étude de l’entreprise a révélé que 42 % des personnes âgées qui utilisent l’IA générative l’utilisent principalement comme outil d’apprentissage. « La maîtrise de l’IA devient rapidement un pilier essentiel de la sécurité en ligne », a-t-il déclaré à TechNewsWorld.
La recherche met en évidence les risques croissants pour la sécurité de l’IA
L’utilisation de l’IA en dehors du lieu de travail est désormais monnaie courante. Plus de la moitié des seniors (53 %) déclarent utiliser l’IA, et 42 % s’en servent pour apprendre de nouvelles choses ou résoudre des problèmes pratiques.
L’exposition à la désinformation constitue une menace croissante. Près d’un tiers des personnes âgées (32 %) et des membres de la génération sandwich (39 à 59 ans) déclarent avoir été victimes de mésinformation ou de désinformation en ligne au cours des 12 derniers mois.
Les risques s’étendent au-delà des personnes âgées. La génération sandwich porte une grande partie de la responsabilité de gérer la sécurité en ligne tout en prenant soin des adolescents et des parents vieillissants. Un nombre significatif de 86 % déclarent que la gestion de la sécurité en ligne de leurs enfants et de leurs parents vieillissants ajoute un stress notable à leur vie, et près d’un tiers trouvent cela accablant.
Le rapport met en évidence deux préoccupations principales : les achats en ligne, que 73 % des seniors ont signalés comme une préoccupation majeure en raison des avis manipulés par l’IA et des fausses vitrines, et les escroqueries par clonage vocal/deepfake qui imitent leurs proches.
Cox Mobile voit les applications les plus potentielles dans les domaines où la navigation dans les outils numériques peut être difficile, comme la recherche d’informations sur la santé, la compréhension des concepts financiers ou la préparation de questions avant d’interagir avec des services en ligne.
L’IA apporte l’indépendance et de nouveaux risques
Krueck a noté qu’à mesure que l’IA devient plus accessible, les personnes âgées l’adoptent comme une ressource qui les aide à naviguer dans un monde de plus en plus numérique avec plus de confiance et d’indépendance. Cela peut également permettre d’accepter plus facilement des informations inexactes comme des faits.
« La clé est d’équilibrer la commodité de l’IA avec un scepticisme sain et une vérification par des sources fiables », a-t-il déclaré.
Krueck a suggéré que l’IA peut aider à atténuer une partie de cette pression en matière de sécurité lorsque les gens l’utilisent comme un outil d’assistance plutôt que comme un autre système à gérer. Cox Mobile s’est récemment associé à Sarah Dooley, fondatrice de AI-Empowered Mom, qui aide les familles à utiliser l’IA pour réduire leur charge mentale.
« Un conseil utile qu’elle partage consiste à utiliser l’IA comme une deuxième paire d’yeux en téléchargeant une capture d’écran d’un e-mail ou d’un texte suspect et en demandant à l’IA d’identifier les signes avant-coureurs potentiels avant d’agir », a-t-il expliqué, ajoutant que cela peut également aider à répondre aux questions de routine et à fournir des conseils aux soignants sur les problèmes technologiques quotidiens.
« Lorsque les familles utilisent l’IA de manière réfléchie et l’associent à de bonnes habitudes de vérification, elle a le potentiel de renforcer la confiance entre les générations », a déclaré Krueck.
Le danger se cache derrière la recherche conversationnelle
Les moteurs de recherche traditionnels fournissent une liste de sources que nous pouvons vérifier. L’IA générative présente une réponse unique et raffinée en toute confiance. Ce style de conversation présente un défi psychologique considérable pour les personnes âgées. Ils n’ont pas grandi dans un monde qui exigeait une évaluation constante pour savoir si les informations numériques sont réelles ou générées par l’IA.
« En conséquence, lorsqu’un outil d’IA fournit une réponse claire sur le ton d’une conversation, cela peut ressembler moins à un résultat de recherche qu’à un conseil d’une personne bien informée », a noté Krueck. « Le problème est que les gens assimilent souvent confiance et crédibilité. »
L’IA générative est conçue pour paraître utile et certaine, même lorsque les informations fournies peuvent être incomplètes ou incorrectes. Contrairement aux moteurs de recherche traditionnels qui encouragent les utilisateurs à comparer les sources, l’IA générative peut créer l’impression d’une seule bonne réponse.
« Cela rend plus facile d’accepter les informations à leur valeur nominale et plus difficile de reconnaître quand une vérification est nécessaire. La clé est de se rappeler qu’une réponse sûre n’est pas toujours correcte », a-t-il prévenu.
Les escroqueries au shopping plus difficiles à repérer
Près des trois quarts des personnes âgées (73 %) ayant répondu à l’enquête de Cox Mobile ont identifié les achats en ligne comme un problème de sécurité majeur. Krueck a déclaré que l’IA générative rend les escroqueries plus difficiles à détecter en produisant des critiques de produits réalistes, des vitrines convaincantes et des chats de service client réactifs qui imitent les marques légitimes.
« Ces tactiques créent un sentiment de légitimité qui peut induire en erreur même les acheteurs en ligne expérimentés », a-t-il déclaré. « Détecter ces risques nécessite un état d’esprit différent. »
Au lieu de s’appuyer sur des indices superficiels comme la grammaire ou le design, Krueck a conseillé aux consommateurs d’être prudents lorsque les avis semblent trop génériques ou lorsque les vendeurs les poussent à agir rapidement ou à déplacer les conversations hors de la plateforme.
Les télécommunications ont besoin de nouvelles fonctionnalités de sécurité et de sensibilisation du public
Les deepfakes et le clonage de voix exploitent la peur et l’urgence d’une manière que les escroqueries traditionnelles ne pourraient pas faire. Krueck a déclaré que les fournisseurs de télécommunications doivent renforcer à la fois la protection des réseaux et l’éducation des consommateurs pour aider les familles à reconnaître les escroqueries vocales générées par l’IA.
« Le clonage vocal basé sur l’IA a introduit un nouveau niveau d’urgence et de manipulation émotionnelle dans les escroqueries, permettant à de mauvais acteurs de se faire passer pour des êtres chers avec un réalisme saisissant. Ces attaques réussissent parce qu’elles peuvent paniquer et faire pression sur les gens pour qu’ils réagissent avant d’avoir le temps de vérifier », a-t-il expliqué.
La technologie à elle seule ne suffit pas, a-t-il ajouté. Aider les clients à reconnaître les menaces émergentes et à développer de solides habitudes de vérification reste essentiel pour les protéger contre la fraude basée sur l’IA.
« Il est essentiel de comprendre quand remettre en question ce qu’ils entendent, vérifier via des canaux fiables et demander un deuxième avis. Cette combinaison de confiance et de prudence sera essentielle pour rester en sécurité dans un monde dirigé par l’IA », a-t-il déclaré.
Mettre la sécurité de l’IA en pratique
Krueck a déclaré que Cox Mobile considère la sécurité numérique comme une responsabilité qui s’étend au-delà de la connectivité réseau. À mesure que l’IA s’intègre dans les expériences quotidiennes, aider les clients à comprendre comment utiliser ces outils et quand remettre en question leurs résultats est devenu un élément important de la création d’un environnement numérique plus sûr.
À cette fin, l’entreprise a introduit un cadre simple pour les utilisateurs : arrêter, vérifier et demander de l’aide lorsqu’ils examinent une réponse très spécifique et fiable d’un chatbot IA. Il a expliqué que la vérification commence par sortir de l’interaction initiale.
« Si une réponse générée par l’IA comprend des allégations spécifiques sur un produit, une décision financière ou un problème de santé, l’étape suivante consiste à la confirmer par l’intermédiaire d’une source fiable et indépendante. Cela peut impliquer de consulter un site Web officiel ou de contacter directement une source connue », a-t-il déclaré.
Il est tout aussi important, a-t-il noté, d’éviter de se fier aux informations de contact ou aux liens contenus dans le message d’origine. L’objectif est de séparer les informations du processus de confirmation, en garantissant que les décisions sont basées sur des canaux fiables plutôt que sur des informations potentiellement manipulées.
