Box hat auf seiner Entwicklerkonferenz am Donnerstag eine neue Funktion namens Box Content Retrieval vorgestellt. Die Funktion baut das Embedding-System Nemotron von Nvidia in den Kern von Boxs Produkt ein, um Agenten dabei zu helfen, Abfragen effektiver zu beantworten.

Box sagt, der Nutzen für die Nutzer sind schnellere, genauere und kostengünstigere Abfragen. Kari Briski, VP für generative KI-Software bei Nvidia, sagte gegenüber TechCrunch, sie erwarte, dass Abfragen viermal schneller beantwortet werden, mit 20 % weniger Fehlern und 90 % weniger verwendeten Tokens.

Das System wird für alle Box Enterprise Advance-Kunden verfügbar sein und Anfang nächsten Jahres ausgerollt.

„Dies steigert sowohl die Relevanz unserer Suchtechnologie für Agenten dramatisch“, sagte Box-CEO Aaron Levie. „Anstatt dass ein Agent jeden Dokumentenabschnitt durchlesen muss, können wir Abschnitte aus den Dokumenten zurücksenden, die für die Abfrage des Nutzers oder für die Aufgabe, die der Agent ausführt, am relevantesten sind.“

Die Funktion ist eine Implementierung des Nvidia-Projekts Nemotron Embed, das Open-Weight-Embedding-Modelle anbietet, um automatisierte Abfragesysteme zu verbessern. Der Sektor war ein Fokus für das Open-Source-Modellprojekt von Nvidia, wobei seine jüngste Nemotron-Veröffentlichung im Juli die RTEB-Benchmark erreichte, die die Abfragequalität misst.

Box sagt, das System sei am nützlichsten in Kombination mit aktiven Agenten, wobei es Anwälte als Beispiel nennt, die unter dem neuen System angeblich relevante Klauseln und Präzedenzfälle leichter finden können. Da die Embeddings von Nemotron über einfache Schlüsselwörter hinausgehen, um zugrunde liegende Konzepte abzubilden, kann ein Suchtool verwandte rechtliche Themen aufzeigen, auch wenn unterschiedliche Formulierungen oder Sprachen verwendet werden.

Zwar sind die Nemotron-Modelle frei verfügbar, das System stützt sich jedoch stark auf Boxs bestehende Metadaten und Berechtigungssteuerungen, was es schwierig machen wird, es von Grund auf neu zu erstellen. „Wir packen wahrscheinlich fünf verschiedene Technologien in eine einfache API“, sagte Levie gegenüber TechCrunch.

Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.