Hutton Tech Solutions bietet einen Dienst namens Model Fine-Tuning an, der das Trainieren von künstlichen Intelligenz-Modellen auf den spezifischen Daten eines Unternehmens beinhaltet. Laut dem Unternehmen fehlt generischen KI-Modellen oft das Verständnis für Branchenterminologie, Unternehmensrichtlinien und spezifische Dokumentation. Feintuning behebt dies, indem das Training vortrainierter Modelle, wie Llama 3 oder Mistral, auf proprietären Daten fortgesetzt wird, sodass sie zu Experten im Geschäftskontext des Nutzers werden.
Deutsch ·
Sponsored content from Hutton Tech Solutions.
Hutton Tech Solutions bietet lokales Feintuning von KI-Modellen in Kamloops an
Hutton Tech Solutions bietet Feintuning-Dienste für KI-Modelle für Unternehmen in Kamloops an, wobei KI auf proprietären Daten mit lokaler Infrastruktur geschult wird, um Datenschutz und domänenspezifische Genauigkeit zu gewährleisten.
Von Hermes Vector · Read in English

Kurz gesagt
- Hutton Tech Solutions schult KI-Modelle auf spezifische Unternehmensdaten, um die Genauigkeit und Stil-Konsistenz zu verbessern, so das Unternehmen.
- Alle Feintuning-Prozesse finden auf lokaler NVIDIA DGX-Hardware in Kamloops statt, was sicherstellt, dass die Daten Kanada niemals verlassen, so das Unternehmen.
- Die Preise für Feintuning-Pakete beginnen bei 3.000 $ für Starter-Optionen und steigen bis zu 7.500 $ für professionelle Pakete, so das Unternehmen.
- Das Unternehmen gibt an, dass feinabgestimmte Modelle die Zeit für die Vertragserstellung um 70 % reduzieren und die Genauigkeit bei domänenspezifischen Fragen um 30-50 % verbessern können.
Was der Dienst beinhaltet
Das Unternehmen beschreibt Feintuning als ähnlich wie die Einstellung eines Mitarbeiters, der bereits seit Jahren in der Branche tätig ist. Nach dem Prozess kann das Modell Fragen mit der Wissensdatenbank des Unternehmens beantworten, Dokumente im Stil des Unternehmens erstellen und spezifische Richtlinien befolgen. Hutton Tech Solutions führt ein Beispiel einer Anwaltskanzlei in Kamloops an, die den Dienst nutzte. Die Kanzlei stellte über 500 Verträge, 200 rechtliche Memoranden und Zusammenfassungen der Rechtsprechung von BC zur Verfügung. Das Unternehmen gibt an, dass die KI nach dem Feintuning des Llama 3 70B-Modells auf einem 120GB-Datensatz die Zeit für die Vertragserstellung um 70 % reduzierte und die Anwalt-Klienten-Vertraulichkeit aufrechterhielt, da die Daten Kamloops niemals verlassen haben.
Wer profitiert vom Feintuning
Hutton Tech Solutions identifiziert mehrere Sektoren, die von dieser Technologie profitieren. Für professionelle Dienstleistungen wie Anwalts- und Steuerberatungsgesellschaften kann das Unternehmen sagen, dass feinabgestimmte Modelle Lieferungen erstellen und bei der Forschung helfen können. Im Gesundheitswesen hilft der Dienst bei der Erstellung klinischer Notizen und bei der Behandlungplanung. Fertigungs- und Ingenieurunternehmen können die Modelle nutzen, um technische Fragen zu beantworten und bei der Fehlerbehebung zu helfen. Kundenservice-Unternehmen können die Technologie nutzen, um Fragen genau zu beantworten und Support-Tickets zu bearbeiten.
Der Prozess und die Technologie
Der Feintuning-Prozess beginnt mit der Datensammlung, wobei mindestens 10-20 Dokumente für das grundlegende Tuning erforderlich sind, das Unternehmen empfiehlt jedoch 50+ Dokumente für die besten Ergebnisse. Hutton Tech Solutions übernimmt die Datenvorbereitung, einschließlich Bereinigung und Formatierung. Das Unternehmen wählt dann ein Basismodell aus, wie Llama 3 8B oder Mistral 7B, je nach Anwendungsfall. Das Training findet auf NVIDIA DGX-Hardware in Kamloops über 48-72 Stunden statt. Das Unternehmen verwendet eine Technik namens QLoRA (Quantized Low-Rank Adaptation), um die Trainingszeit und die Rechenanforderungen um 90 % zu reduzieren. Das Unternehmen gibt an, dass das Kontextfenster auf 100k+ Token erweitert wird, was es dem Modell ermöglicht, aus gesamten Dokumenten auf einmal zu lernen.
Preise und Verfügbarkeit
Hutton Tech Solutions bietet drei Hauptpakete für Feintuning-Dienste an. Das Starter-Paket kostet 3.000 $ und umfasst ein Modell mit bis zu 13 Milliarden Parametern, 10-20 Dokumente und eine Bearbeitungszeit von 3-5 Tagen. Das Professional-Paket kostet 7.500 $ und bietet ein Modell mit bis zu 70 Milliarden Parametern, 50+ Dokumente und eine Bearbeitungszeit von 48-72 Stunden. Das Enterprise-Paket hat einen individuellen Preis für größere Modelle und unbegrenzte Dokumente. Das Unternehmen weist darauf hin, dass das gesamte Training auf lokaler Infrastruktur in Kamloops stattfindet, was sicherstellt, dass die Daten in Kanada bleiben und dem kanadischen Datenschutzgesetz unterliegen. Hutton Tech Solutions ist ein privates Unternehmen und nicht an einer Börse gelistet.
Quellen (auf Englisch)
KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.