Un appel à un organisme de normalisation pour superviser le développement de l’intelligence artificielle de pointe a été lancé mardi par le PDG de Google DeepMind, un laboratoire de recherche sur l’IA.
« L’organisme de normalisation serait chargé d’élaborer des protocoles d’évaluation et de travailler avec les agences fédérales appropriées et les laboratoires nationaux américains pour effectuer des tests dans des domaines liés à la sécurité nationale », a écrit Demis Hassabis sur LinkedIn.
Il a suggéré que le groupe s’inspire d’un partenariat public-privé ou d’un organisme d’autoréglementation supervisé par le gouvernement fédéral, comme l’Autorité de réglementation du secteur financier (FINRA), et qu’il comprenne des experts techniques indépendants de premier plan et des représentants de l’open source.
« À l’heure actuelle, nous sommes engagés dans une course commerciale et géopolitique extrêmement intense et à plusieurs niveaux », a-t-il expliqué. « Alors que ces dynamiques concurrentielles alimentent des progrès rapides et accélèrent les incroyables avantages, les progrès à la frontière dépassent notre compréhension de la technologie. »
« Personne au monde ne sait avec certitude ce qui va se passer à partir d’ici, et même les experts ne sont pas d’accord », a-t-il poursuivi. « Quand il existe un grand degré d’incertitude et que les enjeux sont aussi élevés, procéder avec un optimisme prudent est la stratégie sensée et correcte. »
« Cela nécessite une politique publique qui favorise l’innovation tout en encourageant la responsabilité et la sécurité, favorise la collaboration internationale sur les questions clés de sécurité et encourage un examen attentif de la manière dont l’IA est déployée au profit de la société », a-t-il conseillé.
Plaidoyer pour un organisme de normalisation de l’IA
Un organisme de normalisation est certainement nécessaire, a déclaré Chris Canal, co-fondateur et PDG d’EquiStamp, une société de sécurité de l’IA à Lewes, Del. « L’IA est une métatechnologie à double usage », a-t-il déclaré à TechNewsWorld. « Les mêmes capacités qui accélèrent la découverte de médicaments peuvent réduire les obstacles aux cyberattaques et aux armes biologiques. »
« Deux choses rendent les normes préalables au déploiement non négociables », a-t-il déclaré. « Premièrement, les modèles à poids ouvert ne peuvent pas être rappelés une fois commercialisés. Les avantages et les dangers qu’un modèle à poids ouvert présente existent en permanence. »
« Deuxièmement », a-t-il poursuivi, « des laboratoires comme Anthropic et OpenAI partagent déjà des modèles non publics avec des partenaires et des testeurs avant leur publication, de sorte qu’une capacité dangereuse peut être en circulation et causer des dommages avant qu’un gouvernement ne sache qu’elle existe. »
Jeff Williams, CTO et co-fondateur de Contrast Security, une société de sécurité d’exécution basée à Los Altos, en Californie, a convenu qu’un organisme de normalisation était nécessaire pour superviser le développement de l’IA, en particulier l’IA de pointe. « Ces systèmes pourraient à terme poser des risques comparables aux armes nucléaires, biologiques ou chimiques », a-t-il déclaré à TechNewsWorld. « Nous ne savons pas encore à quel point ils deviendront dangereux, mais les preuves sont suffisamment solides pour montrer qu’attendre serait irresponsable. »
Il a recommandé que l’approche soit scientifique, axée sur des capacités mesurables et fondée sur les travaux déjà en cours dans la communauté de la sécurité. « L’Open Worldwide Application Security Project (OWASP), en particulier, a élaboré des conseils pratiques sur un large éventail de risques liés à l’IA générative et agentique », a-t-il déclaré. « Un organisme de normalisation devrait financer, valider et étendre ce travail, et non le réinventer à huis clos. »
Renforcer les capacités existantes
« Nous avons besoin de tests rigoureux et standardisés des modèles frontières », a ajouté Michelle Lopes Maldonado, directrice associée de la politique en matière d’IA à l’Information Technology & Innovation Foundation (ITIF), une organisation de recherche et de politique publique à Washington, DC.
« Les États-Unis sont déjà en train de développer ce muscle », a-t-elle déclaré à TechNewsWorld. « Le Center for AI Standards and Innovation (CAISI) du NIST a conclu des accords d’évaluation préalable au déploiement avec la plupart des grands laboratoires. »
« Nous devons renforcer et financer correctement cette capacité existante avant de créer une nouvelle institution », a-t-elle soutenu. « Les tests de sécurité ponctuels, laboratoire par laboratoire, ne s’adapteront pas à l’évolution des capacités. »
Cette infrastructure de test existante soulève une question centrale autour de la proposition de Hassabis : les États-Unis ont-ils besoin d’un nouvel organisme de normalisation de l’IA ou devraient-ils renforcer et étendre les ressources des institutions qui évaluent déjà les modèles frontières ?
Michael Bell, PDG de Suzu Labs, un fournisseur de services de cybersécurité basés sur l’IA à Las Vegas, a fait valoir qu’il était nécessaire de rendre des comptes pour des dommages spécifiques et mesurables. « Nous n’avons pas nécessairement besoin d’une nouvelle bureaucratie entre chaque sortie de modèle et le marché », a-t-il déclaré à TechNewsWorld.
« Les risques de sécurité liés à l’IA frontalière sont réels », a-t-il reconnu. « Je dirige une entreprise qui équipe des systèmes d’IA pour les entreprises et les gouvernements, et les surfaces d’attaque se développent plus rapidement que la plupart des organisations ne le pensent. Mais il y a une différence entre une surveillance ciblée des véritables risques de sécurité nationale et la construction d’un appareil de réglementation qui ralentit toute une industrie sur la base de seuils de capacité définis par les mêmes entreprises qui font pression pour l’organisme. »
« La question ne devrait pas être ‘avons-nous besoin d’un organisme de normalisation ?' », a-t-il déclaré. « Il faudrait plutôt se demander : qu’essayons-nous spécifiquement de prévenir, et une nouvelle institution est-elle le moyen le plus efficace de le prévenir ? »
Un meilleur modèle
Canal a remis en question la modélisation du nouveau cadre d’examen de l’IA sur la FINRA. « Les politiques de la FINRA se conduisent après coup dans un domaine où les pertes sont financières et récupérables », a-t-il expliqué. « La finance est également le domaine qui refuse explicitement de chiffrer les catastrophes. La plupart des contrats d’assurance définissent exactement les catégories de catastrophes que l’IA pourrait toucher. »
« Le meilleur modèle », a-t-il soutenu, « est quelque chose comme le code du bâtiment de l’ASCE. Lorsque nous approuvons un projet qui a un impact sur la société, comme un pont ou un bâtiment, nous évaluons l’intérêt public, fixons une probabilité d’échec tolérée explicite et en déduisons les exigences. »
« Cette dernière partie est importante », a-t-il poursuivi. « Lorsque la tolérance est explicite, la règle constitue le minimum nécessaire pour la respecter, et non l’opinion d’un comité. »
« Nous devrions réglementer l’IA aux frontières de la même manière que nous autorisons les centrales nucléaires, et non de la même manière que nous surveillons les courtiers en valeurs mobilières », a-t-il affirmé. « Cela vaut que l’entité qui construit l’IA soit un gouvernement ou une institution privée. Les deux doivent respecter les codes du bâtiment, et les codes sont appliqués et vérifiés à plusieurs moments du processus de construction – dans le plan/conception, avant/milieu/post-construction, puis en cours après l’achèvement du projet. »
La recommandation de Hassabis selon laquelle le comité des normes devrait faire partie d’un partenariat public-privé est importante. « Un partenariat public-privé est essentiel car aucun groupe ne dispose à lui seul de tout ce qu’il faut », a expliqué Williams.
« Les laboratoires Frontier disposent des modèles, des talents et des capacités de calcul », a-t-il déclaré. « Le gouvernement apporte l’autorité, le renseignement et les ressources de sécurité nationale. La communauté de sécurité indépendante apporte l’expertise contradictoire et l’ouverture. »
« Mais il ne s’agirait pas d’un partenariat entre égaux », a-t-il poursuivi. « Les sociétés d’IA investissent des milliards et évoluent à une vitesse extraordinaire. Le gouvernement avance lentement, tandis qu’une grande partie de la communauté de la sécurité s’appuie toujours sur des bénévoles. À moins que la recherche indépendante ne soit financée à une échelle et à une vitesse plus proches de celles de l’industrie, les entreprises frontières définiront l’agenda simplement parce que tout le monde essaie en permanence de rattraper leur retard. »
Risques de l’autorégulation de l’IA
Faire du comité de normalisation un organisme d’autoréglementation présente également des avantages. « Un organisme d’autoréglementation peut embaucher des talents techniques aux tarifs du marché, agir plus rapidement que les règles statutaires et mettre à jour les critères de référence tous les trimestres plutôt qu’une fois par décennie », a expliqué Maldonado. « La FINRA fonctionne parce que les initiés du secteur comprennent souvent mieux les risques que les régulateurs éloignés. »
Elle a admis qu’il y avait aussi des inconvénients. Par exemple, il existe une menace de capture réglementaire. « Un organisme financé et informé par des laboratoires pionniers peut être confronté à une pression constante pour établir des critères qui favorisent les opérateurs historiques et augmentent les coûts des concurrents », a-t-elle déclaré.
Elle a ajouté que la FINRA n’est peut-être pas le meilleur modèle pour le conseil des normes. « La FINRA contrôle la conduite dans un secteur mature avec des règles bien comprises, alors que la science de l’évaluation de l’IA est encore jeune », a-t-elle expliqué. « Les audits indépendants montrent déjà des méthodologies incohérentes entre les évaluateurs. »
« Tout conseil d’administration dominé par des entreprises frontières aurait tout intérêt à créer un organisme qui les protège et empêche l’arrivée de nouveaux modèles », a ajouté Sean Campbell, co-fondateur de Cascade Insights, un fournisseur d’études de marché et de services de marketing stratégique, à Portland, Oregon.
« C’est un problème classique de renard qui garde le poulailler », a-t-il déclaré à TechNewsWorld.
Il a soutenu de solides partenariats public-privé, mais a ajouté que de solides partenariats mondiaux étaient également nécessaires. « Sinon, c’est comme essayer de contrôler la prolifération nucléaire en concluant des accords avec les 50 Etats », a-t-il déclaré.
Normes avant l’arrivée d’AGI
Hassabis a soutenu que l’établissement dès maintenant de normes en matière d’IA ouvrirait la voie à l’IA du futur, l’intelligence artificielle générale (AGI).
« Il existe à la fois un énorme enthousiasme et une grande incertitude autour de l’IA, et les deux sont justifiés », écrit-il. « Mais l’avenir n’est pas encore écrit ; nous devons utiliser cette précieuse fenêtre avant l’arrivée d’AGI pour façonner cette technologie au bénéfice de toute l’humanité. »
« Ce que nous faisons collectivement maintenant déterminera la manière dont se déroulera la prochaine phase de civilisation », a-t-il poursuivi. « En gérant en toute sécurité l’AGI dans le monde, nous pouvons entrer dans un nouvel âge d’or de découvertes et de progrès scientifiques, et inaugurer un avenir brillant d’incroyable épanouissement humain. »
