Le débat sur l’IA a développé un schéma étrange.
Un modèle d’IA produit des résultats inattendus ou potentiellement effrayants, quelqu’un prédit la fin de l’humanité et la conversation passe directement à la question de savoir si la civilisation n’a plus que quelques années à vivre. Il manque quelque part entre la manifestation et la nécrologie la preuve. Nous devrions l’exiger.
Les affirmations selon lesquelles l’IA détruirait l’humanité nécessitent une explication crédible de la manière dont les logiciels pourraient acquérir le pouvoir de vaincre la résistance humaine dans le monde physique. Une prédiction alarmante, même émanant d’un chercheur accompli, ne règle pas cette question.
Les analystes technologiques de longue date devraient diriger cette discussion. Trop souvent, nous laissons le soin aux dirigeants qui ont des produits à vendre et aux politiciens qui transforment l’incertitude en matériau de campagne. Les personnes qui comprennent comment la technologie arrive sur le marché doivent s’exprimer ensemble, quelles que soient leurs opinions politiques.
Une prévision d’extinction nécessite plus que de l’imagination
Commencez par une limite honnête. Personne ne peut prouver que tous les futurs systèmes d’IA seront inoffensifs. Mais la peur d’un événement d’extinction imminent provoqué par l’IA traite la spéculation comme une connaissance. L’argument le plus fort est que les preuves ne justifient pas la certitude du récit de l’apocalypse.
Le rapport international sur la sécurité de l’IA, publié en février et dirigé par l’expert en IA Yoshua Bengio, a révélé que les systèmes actuels n’avaient pas les capacités nécessaires pour les scénarios de perte de contrôle examinés. Le rapport avertit également que les capacités pertinentes s’améliorent. Cela prend en charge la poursuite des tests et des garanties. Cela n’établit pas un événement d’extinction imminent.
Même un modèle hautement performant a besoin de moyens pour agir. Produire un plan est différent de le réaliser. Les outils logiciels peuvent étendre leur portée, mais leur accès doit venir de quelque part. L’intelligence n’accorde pas automatiquement le contrôle.
Les contraintes physiques comptent aussi. L’informatique nécessite du matériel et de l’électricité. Les actions en dehors d’un ordinateur dépendent des connexions aux machines ou aux personnes. Un argument sérieux en faveur d’une catastrophe doit expliquer comment ces dépendances sont acquises et entretenues.
Ces barrières ne sont pas des garanties. La sécurité peut échouer et les utilisateurs peuvent accorder des autorisations dangereuses. Mais chaque échec requis appartient à l’argumentation. Demander cette chaîne d’événements est une analyse de base.
Les leaders de l’industrie repoussent l’alarmisme en matière d’IA
Le PDG de Nvidia, Jensen Huang, a directement riposté. Dans une interview accordée en juillet, il a critiqué les gens qui « passent trop de temps à théoriser sur ces résultats de science-fiction ». Son argument plus large était que dissuader les gens de l’IA pourrait nuire à son adoption et à la compétitivité américaine.
Au cœur de tout cela se trouve le message de Huang selon lequel les entreprises pionnières telles qu’OpenAI et Anthropic devraient gérer les risques par le biais de leurs processus de développement, d’ingénierie et de test, comme toute entreprise de produits qui propose uniquement des solutions de haute qualité.
La norme doit être claire : établir des procédures rigoureuses de test de l’IA et ne le faites pas publier des produits comportant des bogues critiques connus. En fin de compte, le risque ne réside pas uniquement dans les modèles. Cela concerne également les entreprises qui autorisent une faible diligence raisonnable interne au sein de leurs équipes.
Le PDG de Cohere, Aidan Gomez, a exprimé des objections similaires. Interrogé lors d’une interview en 2024 sur les idées fausses du public, il a identifié « la crainte qu’expriment certains individus et organisations de voir cette technologie comme un terminateur, un risque existentiel ».
Le désaccord est antérieur aux modèles actuels. En 2017, Mark Zuckerberg a critiqué la rhétorique apocalyptique, déclarant : « C’est vraiment négatif et, à certains égards, je pense en fait que c’est assez irresponsable ». Ce commentaire historique montre combien de temps cet argument persiste. Il ne peut pas, à lui seul, régler les questions concernant les systèmes plus récents.
Ces dirigeants ont certainement des intérêts commerciaux. Leur confiance mérite d’être examinée, tout comme les avertissements des dirigeants concurrents. Cependant, leurs objections remettent en question l’idée selon laquelle tous ceux qui comprennent l’IA conviennent qu’une catastrophe est à venir.
Les arguments en faveur des bénéfices largement partagés de l’IA offrent également une alternative au fatalisme. Les analystes devraient tester ces promesses d’aussi près que les prédictions d’extinction. Ni l’un ni l’autre ne devient une preuve parce qu’un dirigeant éminent semble certain.
Les médias doivent poser de meilleures questions techniques
Une prédiction effrayante est facile à élaborer. Expliquer ses hypothèses demande du travail. Lorsque la couverture médiatique manque de profondeur technique, une possibilité peut commencer à ressembler à une prévision. Les lecteurs peuvent conclure que les questions d’ingénierie sont réglées alors qu’un article les a à peine examinées.
Les journalistes n’ont pas besoin de construire des modèles, mais ils doivent évaluer plus attentivement la crédibilité des lanceurs d’alerte et leurs intentions potentielles. Ils doivent également distinguer les résultats des tests contrôlés des preuves démontrant qu’un système peut fonctionner de manière indépendante dans le monde réel. Les éditeurs devraient exiger cette distinction avant de permettre à une affirmation dramatique de véhiculer une histoire.
La couverture médiatique grand public n’est pas uniformément alarmiste. Certains commentaires ont remis en question les prévisions d’extinction et mis l’accent sur la responsabilité des produits. D’autres reportages ont examiné comment les spéculations apocalyptiques peuvent détourner l’attention des préjudices actuels et des personnes qui en sont responsables.
Le problème est une couverture qui répète des sinistres extraordinaires sans examiner les étapes nécessaires pour les rendre possibles. La maîtrise technique devrait aider une rédaction à reconnaître lorsqu’un article convaincant dépasse ses preuves.
Les centres de données sont devenus la prochaine cible
L’anxiété s’étend désormais à l’infrastructure derrière l’IA. Les centres de données font face à une opposition croissante du public, les conflits locaux en matière de construction alimentant une réaction politique plus large. On demande aux bâtiments remplis d’ordinateurs de répondre de tout ce que les gens n’aiment pas dans l’industrie technologique.
Les avantages économiques des centres de données apparaissent déjà dans les comptes publics. Dans le comté de Loudoun, en Virginie, les installations existantes ont généré 1,2 milliard de dollars de recettes fiscales foncières au cours de l’exercice 2026, contribuant ainsi à financer les services locaux et à alléger le fardeau des autres contribuables.
Dans toute la Virginie, une étude législative indépendante a estimé que l’industrie soutenait environ 74 000 emplois directs et indirects et 5,5 milliards de dollars de revenus annuels du travail, dont une grande partie provenait de la construction. Ces chèques de paie parviennent aux électriciens et autres travailleurs qualifiés, bien au-delà de la Silicon Valley. Les contrats peuvent également générer des économies d’électricité lorsque les gros clients paient plus que ce qu’il en coûte pour les desservir.
Georgia Power prévoit d’économiser environ 950 millions de dollars par an pour ses clients à partir de 2029 grâce à son portefeuille de croissance à forte charge, ce qui équivaut à environ 180 dollars par an pour un client résidentiel type. Il s’agit d’économies projetées et non de réductions déjà réalisées.
Chaque proposition doit être examinée, mais un débat qui prend en compte la demande d’électricité tout en ignorant les salaires et les recettes fiscales laisse de côté une partie substantielle de la situation économique.
Certaines objections sont pratiques. Les résidents méritent des réponses sur leurs factures d’électricité et leur consommation d’eau. Le bruit compte pour les voisins. Les promoteurs affaiblissent leur position lorsqu’ils rejettent ces préoccupations ou substituent de vagues promesses à des engagements exécutoires.
Pourtant, considérer chaque centre de données comme une étape vers l’extinction humaine transforme la planification en un référendum sur une apocalypse imaginaire. Les communautés doivent examiner les coûts et les avantages réels d’une installation.
La construction crée du travail pour les métiers spécialisés et des affaires pour les fournisseurs, tandis que l’exploitation des installations peut fournir des emplois techniques et des recettes fiscales locales. Le personnel permanent est plus réduit, et les défenseurs devraient le dire.
Les emplois dans la construction ne devraient pas être écartés simplement parce qu’ils impliquent la construction d’infrastructures plutôt que l’écriture de logiciels. Les communautés devraient examiner attentivement les avantages fiscaux, mais rejeter un projet signifie également renoncer à des avantages potentiels.
L’Amérique ne peut pas réglementer son chemin vers le leadership
L’IA nécessite une capacité de calcul. Une réglementation excessive qui retarde cette capacité risque d’affaiblir la position concurrentielle de l’Amérique. Des restrictions générales et des processus d’approbation incertains découragent les investissements sans nécessairement répondre aux risques qui sous-tendent les inquiétudes du public.
La proposition de Bernie Sanders d’interdire la superintelligence artificielle et de suspendre le développement avancé de l’IA jusqu’à ce que des règles fédérales de sécurité soient établies risque de placer l’innovation américaine sur le calendrier de Washington.
Si les pays concurrents continuent de développer ces capacités, une « pause » américaine pourrait affaiblir l’avance technologique américaine et créer des désavantages en matière de sécurité nationale. Le moratoire proposé séparément par Sanders sur les nouveaux centres de données d’IA pourrait également retarder les travaux de construction et les recettes fiscales locales que ces installations peuvent générer.
Une incertitude prolongée peut décourager les investissements et favoriser les grandes entreprises disposant des ressources nécessaires pour attendre la fin des restrictions, ce qui rend plus difficile l’entrée sur le marché des petits concurrents. La protection du public nécessite des garanties exécutoires, mais des interdictions générales risquent de sacrifier les opportunités économiques sans obtenir une retenue comparable de la part des rivaux américains.
Les implications en matière de sécurité nationale méritent également qu’on s’y intéresse. Le gouvernement fédéral relie explicitement l’infrastructure nationale d’IA aux capacités stratégiques. L’implication politique est simple : rendre inutilement difficile la construction responsable pourrait compromettre les capacités que Washington souhaite protéger.
L’Amérique devrait se souvenir de son expérience nucléaire. L’expansion des réacteurs a ralenti à partir des années 1970. Les changements réglementaires et l’opposition du public y ont contribué, parallèlement à la hausse des coûts et à la baisse de la demande d’électricité. Blâmer la réglementation à elle seule donne une mauvaise lecture de l’histoire. Ignorer son rôle est tout aussi trompeur.
Les États-Unis ne devraient pas répéter cette expérience avec l’infrastructure de l’IA. Les règles doivent tenir compte des risques démontrés et fournir une voie pratique vers l’approbation. Des retards interminables entraînent leurs propres coûts.
Pourtant, l’IA est devenue un ballon de football politique en cette année d’élections de mi-mandat. Des questions complexes entrent dans les campagnes construites autour de messages simples. Soutenir le développement devient une preuve d’imprudence. Soutenir les garanties devient une preuve d’hostilité au progrès. Aucune des deux accusations n’évalue un modèle ou une proposition de construction.
Les analystes doivent parler ensemble
C’est là que les analystes de longue date doivent agir. Nous sommes souvent au courant de feuilles de route de produits avancées dans le cadre d’accords de non-divulgation et, d’après mon expérience, les entreprises réfléchies recherchent des commentaires sur leurs projets. Nous ne sommes pas obligés d’être d’accord sur la politique, mais nous devrions convenir que les affirmations techniques doivent survivre aux questions techniques.
Un effort partagé pourrait donner aux éditeurs l’accès à des spécialistes et les aider à publier des réponses claires lorsque les affirmations dépassent les faits. Expliquez ce qui a été testé. Identifiez ce qui reste inconnu. Demandez-vous comment les probabilités d’extinction ont été produites avant que ces chiffres ne deviennent des slogans de campagne.
L’autorité entraîne des obligations. Les analystes doivent divulguer les relations avec les fournisseurs et corriger leurs erreurs. L’expérience attire l’attention ; cela n’excuse pas la faiblesse du raisonnement. L’indépendance qui défie l’alarmisme doit également remettre en question les promesses de l’industrie.
Il ne faut pas non plus se moquer des lecteurs inquiets. Ils entendent les avertissements de chercheurs respectés et supposent que ces avertissements signifient quelque chose. Notre responsabilité est de expliquer le désaccord.
Les analystes doivent défendre des garanties raisonnables tout en faisant face à des affirmations exagérées, au-delà des clivages politiques et sans attendre l’autorisation du fournisseur. Nous devons parler collectivement et avec autorité sur ce sujet, en montrant les preuves qui sous-tendent nos conclusions.
La peur ne devrait pas conduire à des décisions que l’Amérique pourrait passer des décennies à tenter de renverser.
Brett Faulk, analyste chez SmartTech Research, a contribué à cet article.
