Lors de la célébration d’Appian World, Byte TI et un groupe réduit de périodiques internationaux, interviewé par Matt Calkins, PDG de la multinationale. La directive soutient que l’IA est une technologie puissante mais intrinsèquement probabiliste, car elle exige une structure, une fiabilité et une supervision pour être utile dans des entreprises critiques. Défiendez-vous qu’Appian apporte sa capacité de confiance pour mener l’IA dans les processus stratégiques des entreprises réglementées, au milieu des risques d’alignement et de l’utilisation malintendue des systèmes avec plus de capacités. Estas fueron les principales préoccupations que se le hicieron.
Entretien avec Matt Calkins, PDG d’Appian
Nous considérons que l’IA est intrinsèquement probabiliste. Comment puis-je développer le concept ?
Oui, l’IA est intrinsèquement probabiliste. Tout ce que je dis, absolument tout, est une supposition. Si les questions : «¿Cuánto es 1 + 1?», il y a une supposition. Et si la même question se pose deux fois plus tard, il est très probable que vous obteniez des réponses différentes, si vous avez la même question. C’est simplement la nature de la technologie.
Non, ce n’est pas une critique. C’est une technologie merveilleuse, mais il y a certaines caractéristiques que nous devons avoir en compte et en même temps que les choses que nous devons concevoir. Et le noyau de ces caractéristiques est sa nature probable. J’ai également commenté l’autre jour où j’ai utilisé IA pour résumer les valeurs de votre heure de calcul. Une heure de calcul. J’ai pensé : « Bien, ce n’est tout simplement pas une justification, car les formules l’ont parfaitement fait, et l’IA n’a jamais atteint une précision à 100 % sur les valeurs de votre heure de calcul ».
Aujourd’hui, on suppose que les gens reviennent à l’IA pour tout problème, indépendamment de leur adéquation ou de leur absence. Mais à mesure que nous nous familiarisons avec la technologie, nos points forts, nos points faibles et nos nécessités, nous pensons qu’une des premières parce que nous devons avoir un compte est qu’elle a besoin d’une structure. Et que vos résultats ne soient pas fils, ni ne seront jamais, 100 % fiables.
Acaban de développer une évolution du compositeur. Comment Composer produira-t-il une sorte de démocratisation de l’utilisation du bytecode dans les entreprises ?
Voilà que Composer doit découvrir le concept de programmation intuitive et l’appliquer aux applications critiques. La programmation intuitive n’était pas suffisamment précise ni fiable pour écrire des applications exigeantes, mais à l’intérieur de la structure de Composer, elle est maintenant là. Maintenant, nous pouvons faire et nous ne voulons pas appeler « vibe coding » parce que nous voulons établir un film clair, une division claire entre une activité très informelle et peu fiable qui génère un code très rapidement — et c’est incroyable — et notre option, qui consiste à créer des applications exceptionnellement fiables lors de travaux d’un processus de développement en langue naturelle.
C’est pourquoi il s’agit d’un travail incroyable de codage en direct et d’une structure supplémentaire pour qu’elle soit suffisamment fiable pour créer les applications qui sont vraiment les plus utiles.
Avez-vous eu l’intention de faire la différence avec Appian, en ce qui concerne l’IA, des propriétaires de la Silicon Valley en face de ce que nous appelions « IA de la Costa Este ? Comment pensez-vous que cela influencera cette tendance dans l’adoption de l’IA par les gouvernements et les entités financières ?
Je pense que c’est juste ce qui est nécessaire. Je crois que c’est ce que je suis en espérant.
¿Pero saben que eso es lo que necesitan?
Oui, et c’est pourquoi nous n’avons pas utilisé l’IA dans nos applications stratégiques parce que nous savons qu’elles échouent. Saben que les falta esa IA de la Costa Este. Permettez-moi de citer quelques statistiques de l’article de la Harvard Business Review, qui sont très bien centrées sur ce thème. Alors que, à ce moment-là, 44 % des organisations obtiennent peu ou pas de bénéfice de l’IA, même si tout le monde est convaincu qu’il est utile et que tout le monde travaille avec lui. C’est pourquoi il y a un groupe énorme qui n’obtient rien.
Nous avons également découvert que les applications stratégiques n’utilisent jamais l’IA dans les processus stratégiques, comme les orientations vers le client, les régulateurs, les acteurs sociaux et la responsabilité des décideurs. Vous n’utilisez pas l’IA à l’heure des décisions d’entreprise. C’est pourquoi l’IA ne fait pas partie de ces organisations, de ces applications, car elle n’a pas encore atteint le niveau de fiabilité nécessaire. Et la rencontre lo est déjà claire. L’étude affirme que seuls 18 % des organisations ont intégré l’IA dans leurs processus, même si 71 % d’elles l’ont intentionné et les ont levés pendant un certain temps.
Cela indique également que 92 % sont convaincus que des mesures de sécurité sont nécessaires, mais la majorité n’est pas là. Alors que ces grandes organisations sont conscientes de ce que les gens ont besoin, ils savent que ce qu’ils ont besoin, mais simplement ce n’est pas ce qu’ils ont fait. Mais, précisément pour cela, il est bien possible de ne pas mettre en œuvre l’IA dans des applications stratégiques. Saben lo que falta y saben que es demasiado pronto. C’est pourquoi il est vrai que, en réalité, il est nécessaire que cette demande soit accordée à la Costa Este.
Nous devons nous concentrer sur l’IA en matière de fiabilité, et c’est la pièce qui les empêchera et qui les permettra maintenant de mettre en œuvre l’IA dans les applications et les opérations stratégiques.
Comment a-t-il évolué le papier d’Appian à mesure que l’IA soit vuelve chaque fois plus autonome dans les entreprises ?
Oui, l’IA va transformer vos entreprises et vos applications, mais vous ne pourrez pas le faire seul. L’IA doit s’appuyer sur ses qualités, comme elle doit s’appuyer sur le matériau de fiabilité et doit s’appuyer sur le suivi et sur certains aspects de la puissance, et c’est pourquoi nous avons conçu notre produit comme le complément idéal pour l’IA. Alors que nous avons des prévisions sur ce que l’IA peut faire, comme pour révolutionner les entreprises de tout le monde, pour réaliser la plus grande partie du travail et constituer la plus grande partie des applications, c’est pourquoi ces prédictions et ce que l’IA, avec la technologie complémentaire nécessaire, nous pouvons faire ces choses. Et nous sommes cette technologie complémentaire nécessaire.
Qui est plus comme un service de base pour offrir des services basés en IA à grande échelle que comme une plate-forme de développement et d’analyse ?
Permettez-moi d’apprendre que la plus importante d’Appian est les applications que vous créez. Le potentiel qui peut être porté sur ces applications. Nous allons donc faire tout ce qui est possible pour réduire les barrières d’entrée, de la façon dont les personnes peuvent créer et utiliser des applications d’Appian. Ce faisant, nous avons pu faciliter la création d’interfaces qui permettent d’installer et de résoudre les objets qui forment une partie de l’application.
C’est là le plus sencillo que nous pouvons faire. Oui, vous pouvez installer et installer un outil de réglementation, vous pouvez installer et installer une interface. Nous l’avons fait le plus facilement possible. Mais maintenant, il y a une forme plus facile. Et c’est pourquoi certaines des interfaces que nous utilisons seulement sont obsolètes. Les interfaces de création sont désormais beaucoup moins importantes. Mais n’importe qui fuira le cœur du produit. C’était un moyen simplifié, c’est-à-dire que quelqu’un puisse profiter du cœur du produit. C’est pourquoi vous devez faire attention à ce que vous êtes toujours en train de faire : nous pouvons vous aider à nos utilisateurs lorsqu’ils exécutent une application Appian.
Il est vrai que le secteur du logiciel comme service est mort. Vous aimez Matt Calkins ?
Nous ne cherchons pas à créer une entreprise de logiciels comme service. Il est certain qu’un article du Wall Street Journal a été publié pour exprimer que, à mon avis, les investisseurs sont équivoques en ce qui concerne, mais en ce qui concerne Appian, nous sommes devenus un véhicule pour l’IA. Dondequiera que vaya la IA, allí iremos nosotros. Comme tout est un phénomène du SaaS, il n’est pas prévu que nous l’appliquions.
De la même manière qu’il n’y a aucune direction qui s’applique à NVIDIA, qui crée un produit complémentaire à l’IA et qui est nécessaire pour l’aboutissement de ce projet. C’est pourquoi nous avons l’intention de nous rendre visite. Nous avons un produit qui, à mon avis, est nécessaire pour l’aboutissement de l’IA. C’est pourquoi la raison pour laquelle l’IA n’est pas mise en œuvre en termes de données stratégiques — et d’applications stratégiques — est à ce moment-là parce que nous nous soucions de la fiabilité, et nous allons nous efforcer de proportionner la fiabilité que l’IA ne peut offrir que si elle est seule. C’est pourquoi nous sommes devenus un composant nécessaire à la réussite de l’IA dans le cadre de notre stratégie.
Appian n’est pas un fournisseur de SaaS qui peut remplacer l’IA. Au contraire, nous pensons que nous devons nous substituer à nous. Je pense que si l’IA remplace une application, vous devrez le faire avec notre aide. Et nous pouvons être le facilitateur pour que l’IA remplace une grande quantité d’applications.
J’ai la sensation que l’IA sera plus intelligente pour les humains dans un an, deux ans, pas plus. Êtes-vous sûr de cela? Pourquoi les agents de l’IA, ou l’IA en général, ne veulent-ils pas assurer la supervision humaine et l’action pour leur compte ?
En premier lieu, il n’y a aucune raison pour que l’IA puisse méditer sur les termes de l’intelligence dans la même escalade que les êtres humains. Je pense que tu es bien meilleur dans certaines choses, comme jouer à l’ajedrez, et que tu es aussi beaucoup plus beau dans d’autres, comme écrire de la poésie ou consacrer à la jardinerie. Et ce n’est pas exact d’affirmer que, à un moment donné, j’allegará sera igual à une personne. Il n’y a pas de raison pour qu’il soit comme une personne.
Nous avons donc tendance à avoir certaines forces superlativas et certaines faiblesses persistantes, et nous devons les traiter comme quelque chose de comparable, mais comme quelque chose de fondamentalement différent. Je n’ai pas d’expérience avec la mentalité de l’IA general (AGI) et la croyance que, vous savez, elle sera comparable aux personnes. Nous avons l’impression que nous allons mieux comprendre l’IA, nous entendons que nous avons des chances de gagner sur elle.
Il y avait un autre point où l’IA était résistante à notre capacité de contrôle. Bien que nous puissions croire que maintenant nous avons beaucoup de soins avec l’alignement, nous décidons de garantir que l’IA suit les instructions et les désirs des personnes.
Je pense qu’il s’agit d’un problème plus grave que celui que les gens reconnaissent aujourd’hui dans la journée. Et je crois que l’IA supone une amenaza si nous n’enregistrons pas l’alignement. Il y a un modèle comme Mythos, capable de pirater des systèmes, qui atteint un niveau de puissance qui lui permet de contrôler les personnages. Par exemple, vous pouvez transférer de l’argent. Si vous pouvez pirater des systèmes, vous pouvez contrôler l’argent, la réputation et la divulgation d’informations compromises. Nous avons un point en ce sens que l’IA est suffisamment forte pour créer une influence et, par conséquent, manipuler les personnes qui contrôlent supposément l’IA.
Cela signifie que nous nous trouvons sur un point dangereux et que nous devons travailler davantage sur l’alignement. Et c’est aussi ma préoccupation, mais aussi ma préoccupation que l’IA s’attaque aux mains des personnes malintendues. Il s’agit d’une grande partie du danger qui peut être causé par l’intelligence artificielle à des personnes de forme intentionnelle. Nous avons créé de nouvelles formes de virus dans les organismes avec une mutation protéique différente ou quelque chose d’autre. Par malheur, le danger qu’une personne puisse causer avec une IA puissante est énorme. Et je pense que ce problème est probable.
