Zoho Corporation a révélé qu’elle utilisait la plate-forme de calcul accélérée par IA de NVIDIA, qui inclut NVIDIA NeMo, une partie du logiciel NVIDIA AI Enterprise, pour développer et mettre en œuvre vos modèles de langage de grande qualité (LLM) dans vos applications SaaS. Ces LLM sont disponibles pour plus de 700 000 clients de Zoho au niveau mondial grâce à ManageEngine et Zoho.com.
Au cours de la dernière année, Zoho a investi plus de 10 millions de dollars dans la technologie IA et GPU de NVIDIA, et a prévu d’investir 10 millions d’autres l’année prochaine. Cette annonce a été réalisée lors de l’événement NVIDIA AI Summit à Bombay.
«Beaucoup de LLM sont actuellement conçus sur le marché pour l’utilisation du consommateur, offrant une valeur réduite aux entreprises. Chez Zoho, notre mission consiste à développer des LLM adaptés spécifiquement à une large gamme de cas d’utilisation commerciale. « Les propriétaires de toute notre technologie, avec des produits qui ont des fonctions commerciales variées, nous permettent d’intégrer les composants essentiels qui font que l’IA est vraiment efficace: le contexte », a déclaré Ramprakash Ramamoorthy, directeur de l’IA de Zoho Corporation.
Zoho Corporation utilise NVIDIA NeMo
Zoho a développé sa propre technologie d’IA au cours de plus d’une décennie, intégrée contextuellement dans sa gamme de plus de 100 produits dans les divisions ManageEngine et Zoho. Votre enquête sur l’IA est multimodale, orientée vers l’obtention d’intelligence contextuelle qui aide les utilisateurs à prendre des décisions commerciales.
Grâce à cette collaboration, Zoho a lancé ses LLM sur la plate-forme de calcul accélérée de NVIDIA avec les GPU NVIDIA Hopper, en utilisant la plate-forme intégrale NVIDIA NeMo pour développer une génération personnalisée, qui inclut des LLM, une vision multimodale et une fonctionnalité
L’entreprise est en train de créer des modèles linguistiques petits et moyens, différents des LLM, en proposant des options pour utiliser des modèles de distinctions de taille afin de fournir de meilleurs résultats dans une variété de cas d’utilisation. Cela permet aux entreprises avec moins de données de bénéficier de l’IA. La confidentialité est un principe fondamental dans la stratégie d’IA de Zoho, c’est pourquoi vos LLM ne peuvent pas apprendre les données des clients.
Vishal Dhupar, directeur général de NVIDIA pour l’Asie, a affirmé que la capacité de sélectionner une gamme de modèles d’IA permet aux entreprises d’adapter leurs solutions d’IA à leurs besoins spécifiques, équilibrant le rendu avec la rentabilité. Avec le logiciel IA et la plate-forme de calcul accélérée de NVIDIA, Zoho est en train de construire une vaste gamme de modèles pour satisfaire les divers besoins de ses clients commerciaux.
Création de grands modèles linguistiques (LLM)
Grâce à cette collaboration, Zoho a lancé ses LLM sur la plate-forme de calcul accélérée de NVIDIA avec les GPU NVIDIA Hopper, en utilisant la plate-forme intégrale NVIDIA NeMo pour développer des IA génératives personnalisées, y compris des LLM, IA multimodaux, de vision et d’utilisation.
De plus, Zoho a essayé NVIDIA TensorRT-LLM pour optimiser ses LLM pour sa mise en œuvre, et vous avez observé une augmentation de 60 % dans le rendu et une réduction de 35 % dans la latence en comparaison avec le framework de code ouvert précédemment utilisé. L’entreprise a également de meilleures autres tâches, comme la conversion de la voix en texte, en utilisant l’infrastructure de calcul accélérée de NVIDIA.
