Box presentó una nueva función llamada Recuperación de contenido de Box en su conferencia para desarrolladores el jueves. La función integra el sistema de incrustaciones Nemotron de Nvidia en el núcleo del producto de Box para ayudar a los agentes a responder consultas de manera más efectiva.

Box dice que el resultado para los usuarios son consultas más rápidas, más precisas y menos costosas. Kari Briski, vicepresidenta de software de IA generativa de Nvidia, dijo a TechCrunch que espera que las consultas se respondan cuatro veces más rápido, con un 20% menos de errores y un 90% menos de tokens utilizados.

El sistema estará disponible para todos los clientes de Enterprise Advance de Box, con un lanzamiento a principios del próximo año.

"Esto aumenta drásticamente tanto la relevancia de nuestra tecnología de búsqueda para los agentes", dijo el CEO de Box, Aaron Levie. "En lugar de que un agente tenga que leer cada documento, podemos devolver fragmentos de los documentos que sean más relevantes para la consulta del usuario o para cualquier tarea que esté realizando el agente".

La función es una implementación del proyecto Nemotron Embed de Nvidia, que ofrece modelos de incrustaciones de peso abierto para mejorar los sistemas de recuperación automatizada. El sector ha sido un enfoque para el proyecto de modelos de código abierto de Nvidia, con su reciente lanzamiento de Nemotron en julio que encabezó la clasificación RTEB, que mide la calidad de la recuperación.

Box dice que el sistema será más útil cuando se combine con agentes activos, dando el ejemplo de los abogados, que teóricamente podrán encontrar cláusulas y precedentes relevantes más fácilmente bajo el nuevo sistema. Debido a que las incrustaciones de Nemotron van más allá de las palabras clave simples para mapear conceptos subyacentes, una herramienta de búsqueda puede destacar temas legales relacionados incluso cuando se utiliza un lenguaje o redacción diferente.

Aunque los modelos Nemotron están disponibles gratuitamente, el sistema también depende en gran medida de los metadatos y controles de permisos preexistentes de Box, lo que hará que sea difícil recrearlo desde cero. "Probablemente estamos empaquetando cinco tecnologías diferentes en una API simple", dijo Levie a TechCrunch.

Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.