Depuis l’euphorie initiale du déploiement de l’IA, de nombreuses organisations se demandent si elles sont réellement en train d’améliorer leur potentiel. C’est, entre autres, l’une des questions qui demandaient une réponse sur la table rouge « IA Post-Hype : Lo que funciona, lo que no y lo que viene », organisée par LedaMC le dernier jour d’Utopicus La Havane (Madrid).
L’objectif qui consiste à poursuivre la rencontre était de débattre de l’état actuel de l’IA dans l’entreprise, honnête et sans ornements. Modéré par Julián Gómez, directeur numérique de LedaMC, a parlé avec María José Peral, PDG de l’Instituto de Inteligencia Artificial, Manuel Rodríguez, CIO en Agroseguro, et Carlos González Jardón, directeur de Gobierno y Arquitectura IT en ABANCA.
La séance s’est ouverte avec une réflexion de Dácil Castelo, PDG de LedaMC, qui a repris le ton du débat : « À l’IA il faut apporter la sécurité humaine ». Pour Castelo, la clé n’est pas dans la technologie en soi, sino en « combiner l’IA avec une pensée critique » et en « utiliser sa puissance pour générer plus de valeur avec son offre ».
Del entusiasmo inicial al uso con sentido
La conversation valorise l’impulsion irréflexive car de nombreuses entreprises souhaitent adopter l’IA sans une stratégie claire. González Jardón a reconnu que cette situation était si habituelle : « Quando te dejas llevar por el battage médiatique, te olvidas de que las cosas deben tener un sentido. A veces, como tecnólogos, hemos perdido la bataille avant la pression de la direction et j’ai pu la récupérer. »
Pour lui, la grande partie du problème est la perception erronée de l’IA dans les organisations : « Il est important de mettre en valeur ce que vous voulez montrer la technologie, il n’existe pas de boutons magiques (…) Et il faut aussi que je sache améliorer l’efficacité des projets pour la démonstration. entreprises fallan.
Dans une ligne similaire, Manuel Rodríguez a souligné que le moyen de le faire était de présenter: « Il existe beaucoup de FOMO en technologie. Mais, heureusement, nous travaillons dans des projets qui pensent que nous pouvons apporter de la valeur. La partie du retour sur investissement comprend le potentiel réel de chaque initiative d’IA. «
Carlos González Jardón, a affirmé que « le vrai problème n’est pas les alucinaciones de l’IA, sino las nostras cuando confiamos en elle sin entender como funciona ni que sesgos contiene »
De son côté, María José Peral, PDG de l’Instituto de Inteligencia Artificial, a défendu la nécessité d’une « rééducation entrepreneuriale » pour découvrir l’idée que l’IA est une solution magique. « Les entreprises ont compris qu’elles devaient évaluer l’impact de chaque initiative avant de se lever pour les effets WOW », a expliqué.
Cas réels avec valeur silencieuse
En ce qui concerne la question des cas d’échec, les trois coïncident avec le fait que la meilleure IA est celle qui a été perdue. Il a décrit comment son organisation utilise les modèles générateurs d’IA pour améliorer l’expérience des anciens élèves « sans perdre l’interaction humaine », alors que Rodríguez a comparé le cas d’un détecteur de fraude qui l’a amené pendant des années d’exploitation à Agroseguro, avec « un retour phénoménal et une grande formation interne ».
González Jardón a déclaré que « la visibilité est bien, mais sans voir ce que nous faisons, nous sommes engagés » et sur le banc « la confiance est l’activité la plus importante, si nous voulons, nous perdons le client ». C’est pourquoi vos projets d’IA sont centrés sur les processus internes ou de support, « nunca en elementos que puedan comprometer la relation avec le client ».
« Il y a une bourse formative : il y a des cours pour tout. Il est fondamental d’enseigner à l’utilisateur de l’IA de forme critique et responsable », affirme María José Peral.
Un autre aspect qui a amené González Jardón à répondre à la nécessité de tenir compte du fait que les patrons de conduite des utilisateurs peuvent changer d’interaction avec l’IA. Et ils vous succéderont avec un outil qui révisera la documentation des demandes de produits et guidera les utilisateurs sur ce qui échoue. « Voyons que les utilisateurs s’efforceront d’envoyer les sollicitudes pratiquement sans documentation, pour ne pas lire les exigences et pour que les outils indiquent les documents qu’ils doivent envoyer. » Cet exemple montre que les solutions les plus discrètes nécessitent une surveillance constante et un apprentissage continu pour éviter des effets indésirables.
Le papier de la sécurité humaine
L’un des thèmes les plus débattus est la nécessité de combiner l’IA génératrice avec une réflexion critique. « Les modèles sont probabilistes, la réponse est la plus probable, pas nécessairement la correcte, et par conséquent le critère humain est toujours imprescindible », a déclaré Manuel Rodríguez.
Au cours de ces affirmations, González Jardón a déclaré que « le vrai problème n’est pas ses alucinations de l’IA, mais nos nôtres : quand nous sommes convaincus qu’elle n’entend pas comment fonctionner ni que sesgos contiennent ».
Les trois points coïncident avec le fait que l’éducation, la curiosité et la formation continue sont la meilleure protection avant l’avancée rapide de l’IA. C’est ce qu’a dit María José Peral, « más que protegerse de l’IA, hay que ler, aprender y mantenerse al día ».
Sécurité, données et stabilité
Le débat a également abordé d’autres thèmes critiques concernant l’adoption de l’IA : la sécurité et la fiabilité des données dans les initiatives technologiques. Pour González Jardón, la protection des informations est prioritaire, en particulier dans les secteurs sensibles comme la banque : « Comme la banque, la sécurité des données est notre grande préoccupation. Sachez que la protection complète n’existe pas, si nous nous efforçons de faire les étapes correctes pour vérifier le plus possible à elle. »
María José Peral a souligné la culture des données comme facteur déterminant : « La question de la culture des données chez beaucoup d’entreprises est toujours un frein : il n’y a pas de bonne culture des données. » En ce qui concerne l’importance des données, González Jardón a estimé que « l’IA, si aucune donnée ou donnée n’est fiable, ne sert à rien. L’IA sans bonnes données génère des données mal. »
« La question de la culture des données chez beaucoup d’entreprises est toujours sans frein : il n’y a pas de bonne culture des données », a déclaré María José Peral.
Le débat porte également sur la table de la préoccupation d’un éventuel burbuja de l’IA, tant technologique que formatif. Carlos a ajouté: « Il y a beaucoup de battage médiatique. Mais l’IA est venu pour le faire, il doit s’ajuster, mais il ne disparaît pas. »
María José a renforcé l’idée à partir de l’ambition éducative : » Il y a une bourse formative : il y a des cours pour tout. Il est fondamental d’enseigner à l’utilisateur de l’IA de forme critique et responsable, qui ne vaut que pour l’utiliser, mais comme l’utiliser. «
« L’IA a démocratisé la technologie, mais aujourd’hui elle est vraiment utile, incorporée à celui qui porte valeur», affirme Julián Gómez.
Manuel Rodríguez, en ce qui concerne la pérennité des projets et des changements technologiques, a affirmé que « il est en train de protéger les changements. Il a toujours en compte la valeur que vous apportez à une nouvelle technologie, le présupposé… Il faut tenir compte du coût de l’opportunité, nous ne pouvons pas le faire. subirnos a todo lo nuevo.
Les trois coïncidences sont que l’IA peut être un outil puissant, mais il faut des données fiables, une formation adéquate, des pratiques responsables et un usage consciencieux qui donne la priorité à la sécurité.
Une application IA avec cette proposition
La rencontre s’est conclue par une réflexion sur la responsabilité partagée des entreprises et des dirigeants technologiques à l’heure de la construction d’un outil d’IA, qui doit aussi être fiable et durable dans le temps.
« L’IA a démocratisé la technologie, mais aujourd’hui elle est vraiment utile, elle intègre tout ce qu’elle apporte de valeur et exerce son impact réel », a affirmé Julián Gómez dans le cercle de l’événement.
LedaMC a utilisé cette vision de ses propres projets au cours des dernières années, intégrant la génération de processus tels que l’estimation du logiciel, la plupart des exigences, la génération de cas d’essai ou l’analyse de la productivité à l’intérieur de votre outil quantitatif, avec l’objectif que les organisations connaissent le plus avec ménos.
