Accenture et Anthropic ont trouvé un moyen de collaborer à la création d’une équipe d’évaluateurs intégrés qui travailleront conjointement avec les équipes internes et les sociétés de sécurité d’Anthropic. Votre objectif sera d’évaluer et de mesurer les modèles d’IA à différentes évaluations pour identifier d’éventuelles vulnérabilités, réaliser des évaluations d’alignement et vérifier l’efficacité de vos sauvegardes.
En tant que partie de cette collaboration, Accenture comme Anthropic a évité d’investir jusqu’à 1 000 millions de dollars chaque année au cours des prochaines cinq années dans des initiatives liées à la sécurité de l’intelligence artificielle. L’objectif est de renforcer les mécanismes d’évaluation des modèles à l’aide desquels vous souhaitez obtenir un papier chaque fois plus pertinent pour les entreprises et les organisations.
La faculté complèterait les capacités d’Accenture
Accenture apportera à cette initiative ses décennies d’expérience et d’inversion en IA responsable, en plus de la capacité technique et de la sécurité de la faculté, une entreprise spécialisée en intelligence artificielle appliquée qui a été acquise par le consultant. L’expérience de la Faculté permettra de compléter les capacités d’Accenture et de collaborer avec Anthropic dans le développement de nouvelles méthodes d’évaluation.
La faculté dispose d’une vaste filière d’évaluation et de réalisation d’essais sur des modèles d’IA pour certains des principaux laboratoires d’intelligence artificielle du monde. L’entreprise a également participé au développement de systèmes complexes conçus en fonction de ses critères d’origine de sécurité et de responsabilité.
Son expérience s’étend à des secteurs tels que l’administration publique, la défense, la santé et les infrastructures. Entre ses projets figurent le développement du système d’alerte temporaire du Service national de santé britannique (NHS) pendant la pandémie de COVID-19. Cette expérience sera désormais appliquée dans le cadre d’un travail conjoint avec Anthropic pour évaluer le comportement et la sécurité des modèles d’IA.
« Accenture réunit une équipe spécialisée avec une vaste expérience en matière d’IA, de sécurité et de différents secteurs pour travailler conjointement avec Anthropic », a confirmé Julie Sweet, présidente et PDG d’Accenture. «La sécurité nécessite une connaissance technique approfondie ainsi qu’une compréhension claire de la manière d’utiliser l’IA dans le monde réel».
Selon Sweet, l’évaluation intégrée constitue un environnement émergent au sein de la sécurité de l’intelligence artificielle. «Nous espérons collaborer avec Anthropic pour aider à accélérer le développement des évaluateurs intégrés, qui considèrent que ce sera un élément important de l’écosystème de sécurité dans le futur», a-t-il déclaré.
Évaluateurs intégrés de cybersécurité
De son côté, le Dr Marc Warner, directeur de la technologie d’accentuation et PDG de la faculté, a déclaré que la sécurité devait faire partie du développement des systèmes d’IA depuis ses premières étapes. «La faculté, qui fait désormais partie d’Accenture, est née avec la conviction que l’IA doit être sûre pour le design, et non sûre pour la occasionnelle», a-t-il expliqué.
Les entreprises ont évité d’investir à moins de 1 000 millions de dollars par an
Warner a signalé que ce principe guidait le travail de la Faculté avec les gouvernements et les systèmes de défense et de santé de tout le monde. Dans ce contexte, il faut considérer que la collaboration avec Anthropic s’associe à la direction de l’entreprise et permet d’élargir sa capacité d’action.
« L’union de forces avec Anthropic comme évaluateurs intégrés est exactement le type de travail pour celui qui a créé une faculté et, maintenant comme partie d’Accenture, nous avons la plate-forme nécessaire pour travailler sur le chemin à une escalade de capacité à générer un impact réel sur l’industrie », a-t-il conclu.
