Box a dévoilé une nouvelle fonctionnalité appelée Box Content Retrieval lors de sa conférence développeurs jeudi. La fonctionnalité intègre le système d'embedding Nemotron de Nvidia au cœur du produit de Box pour aider les agents à répondre aux requêtes plus efficacement.

Box indique que les avantages pour les utilisateurs sont des requêtes plus rapides, plus précises et moins coûteuses. Kari Briski, vice-présidente des logiciels d'IA générative chez Nvidia, a déclaré à TechCrunch qu'elle s'attend à ce que les requêtes soient répondues quatre fois plus rapidement, avec 20 % d'erreurs en moins et 90 % de jetons utilisés en moins.

Le système sera disponible pour tous les clients Enterprise Advance de Box, avec un déploiement prévu début l'année prochaine.

« Cela améliore considérablement la pertinence de notre technologie de recherche pour les agents », a déclaré le PDG de Box, Aaron Levie. « Au lieu qu'un agent doive lire chaque document, nous pouvons renvoyer des extraits des documents les plus pertinents par rapport à la requête de l'utilisateur ou à la tâche que l'agent effectue. »

La fonctionnalité est une mise en œuvre du projet Nemotron Embed de Nvidia, qui propose des modèles d'embedding à poids ouverts pour améliorer les systèmes de récupération automatisés. Le secteur a été un axe de concentration pour le projet de modèles open source de Nvidia, sa récente sortie Nemotron en juillet ayant dépassé le benchmark RTEB, qui mesure la qualité de la récupération.

Box indique que le système sera le plus utile lorsqu'il est associé à des agents actifs, donnant l'exemple des avocats, qui pourront théoriquement trouver plus facilement les clauses et précédents pertinents sous le nouveau système. Comme les embeddings de Nemotron vont au-delà des simples mots-clés pour cartographier les concepts sous-jacents, un outil de recherche peut mettre en évidence des thèmes juridiques connexes même lorsque des formulations ou des langues différentes sont utilisées.

Bien que les modèles Nemotron soient disponibles gratuitement, le système s'appuie également fortement sur les métadonnées et les contrôles d'autorisation préexistants de Box, ce qui rendra difficile sa recréation à partir de zéro. « Nous intégrons probablement cinq technologies différentes dans une seule API simple », a déclaré Levie à TechCrunch.

Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.