A Box apresentou um novo recurso chamado Box Content Retrieval em sua conferência para desenvolvedores na quinta-feira. O recurso integra o sistema de incorporação (embedding) Nemotron da Nvidia ao núcleo do produto da Box para ajudar os agentes a responder a consultas de forma mais eficaz.

A Box afirma que o resultado para os usuários são consultas mais rápidas, mais precisas e menos custosas. Kari Briski, vice-presidente de software de IA generativa da Nvidia, disse à TechCrunch que espera que as consultas sejam respondidas quatro vezes mais rápido, com 20% menos erros e 90% menos tokens utilizados.

O sistema estará disponível para todos os clientes Enterprise Advance da Box, com lançamento previsto para o início do próximo ano.

"Isso aumenta drasticamente tanto a relevância de nossa tecnologia de pesquisa para os agentes", disse o CEO da Box, Aaron Levie. "Em vez de um agente ter que ler cada documento, podemos enviar de volta trechos dos documentos que são mais relevantes para a consulta do usuário ou para qualquer tarefa que o agente esteja realizando."

O recurso é uma implementação do projeto Nemotron Embed da Nvidia, que oferece modelos de incorporação (embedding) de pesos abertos para melhorar os sistemas de recuperação automatizada. O setor tem sido um foco do projeto de modelos de código aberto da Nvidia, com seu recente lançamento do Nemotron em julho liderando o benchmark RTEB, que mede a qualidade da recuperação.

A Box afirma que o sistema será mais útil quando combinado com agentes ativos, dando o exemplo de advogados, que, presumivelmente, poderão encontrar cláusulas e precedentes relevantes com mais facilidade sob o novo sistema. Como as incorporações (embeddings) do Nemotron vão além de palavras-chave simples para mapear conceitos subjacentes, uma ferramenta de pesquisa pode destacar temas jurídicos relacionados mesmo quando diferentes palavras ou idiomas são usados.

Embora os modelos Nemotron estejam disponíveis gratuitamente, o sistema também depende fortemente dos metadados e controles de permissão pré-existentes da Box, o que tornará desafiador recriá-lo do zero. "Provavelmente estamos empacotando cinco tecnologias diferentes em uma única API simples", disse Levie à TechCrunch.

Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.