Hermes Vector

Français ·

Sponsored content from Hutton Tech Solutions.

Hutton Tech Solutions propose le réglage fin de modèles d'IA locaux à Kamloops

Hutton Tech Solutions propose des services de réglage fin de modèles pour les entreprises de Kamloops, entraînant l'IA sur des données propriétaires à l'aide d'une infrastructure locale pour garantir la confidentialité et la précision spécifique au domaine.

Par Hermes Vector · Read in English

Illustration: Hutton Tech Solutions propose le réglage fin de modèles d'IA locaux à Kamloops

En bref

  • Hutton Tech Solutions entraîne des modèles d'IA sur des données commerciales spécifiques pour améliorer la précision et la cohérence du style, selon l'entreprise.
  • Tous les processus de réglage fin ont lieu sur du matériel NVIDIA DGX local à Kamloops, garantissant que les données ne quittent jamais le Canada, déclare l'entreprise.
  • Les tarifs des forfaits de réglage fin commencent à 3 000 $ pour les options de démarrage et atteignent 7 500 $ pour les forfaits professionnels, selon l'entreprise.
  • L'entreprise affirme que les modèles ajustés peuvent réduire le temps de rédaction des contrats de 70 % et améliorer la précision des questions spécifiques au domaine de 30 à 50 %.

Hutton Tech Solutions propose un service appelé réglage fin de modèles, qui consiste à entraîner des modèles d'intelligence artificielle sur les données spécifiques d'une entreprise. Selon l'entreprise, les modèles d'IA génériques manquent souvent de compréhension de la terminologie sectorielle, des politiques de l'entreprise et de la documentation spécifique. Le réglage fin comble ce vide en poursuivant l'entraînement de modèles pré-entraînés, tels que Llama 3 ou Mistral, sur des données propriétaires afin qu'ils deviennent des experts dans le contexte commercial de l'utilisateur.

Ce qu'implique le service

L'entreprise décrit le réglage fin comme similaire à l'embauche d'un employé qui a déjà travaillé dans l'industrie pendant des années. Après le processus, le modèle peut répondre aux questions en utilisant la base de connaissances de l'entreprise, générer des documents dans le style de l'entreprise et suivre des politiques spécifiques. Hutton Tech Solutions cite l'exemple d'un cabinet d'avocats de Kamloops qui a utilisé ce service. Le cabinet a fourni plus de 500 contrats, 200 mémos juridiques et des résumés de jurisprudence de la Colombie-Britannique. L'entreprise déclare qu'après avoir réglé finement le modèle Llama 3 70B sur un ensemble de données de 120 Go, l'IA a réduit le temps de rédaction des contrats de 70 % et a maintenu le secret professionnel avocat-client car les données n'ont jamais quitté Kamloops.

Qui bénéficie du réglage fin

Hutton Tech Solutions identifie plusieurs secteurs qui tirent parti de cette technologie. Pour les services professionnels comme les cabinets d'avocats et d'expertise comptable, l'entreprise affirme que les modèles ajustés peuvent rédiger des livrables et assister dans la recherche. Dans le secteur de la santé, le service aide à générer des notes cliniques et à assister dans la planification des traitements. Les entreprises de fabrication et d'ingénierie peuvent utiliser les modèles pour répondre aux questions techniques et assister au dépannage. Les entreprises de service à la clientèle peuvent utiliser la technologie pour répondre aux questions avec précision et gérer les tickets de support.

Le processus et la technologie

Le processus de réglage fin commence par la collecte de données, nécessitant au moins 10 à 20 documents pour un réglage de base, bien que l'entreprise recommande plus de 50 documents pour de meilleurs résultats. Hutton Tech Solutions gère la préparation des données, qui comprend le nettoyage et le formatage. L'entreprise sélectionne ensuite un modèle de base, tel que Llama 3 8B ou Mistral 7B, en fonction du cas d'utilisation. L'entraînement a lieu sur du matériel NVIDIA DGX à Kamloops pendant 48 à 72 heures. L'entreprise utilise une technique appelée QLoRA (Quantized Low-Rank Adaptation) pour réduire le temps d'entraînement et les exigences de calcul de 90 %. L'entreprise déclare que la fenêtre de contexte est étendue à plus de 100k tokens, permettant au modèle d'apprendre à partir de documents entiers en une seule fois.

Tarification et disponibilité

Hutton Tech Solutions propose trois forfaits principaux pour les services de réglage fin. Le forfait Starter coûte 3 000 $ et comprend un modèle jusqu'à 13 milliards de paramètres, 10 à 20 documents, et un délai de traitement de 3 à 5 jours. Le forfait Professional est facturé 7 500 $, offrant un modèle jusqu'à 70 milliards de paramètres, plus de 50 documents, et un délai de traitement de 48 à 72 heures. Le forfait Enterprise a une tarification personnalisée pour les modèles plus grands et un nombre illimité de documents. L'entreprise note que tout l'entraînement se déroule sur une infrastructure locale à Kamloops, garantissant que les données restent au Canada et sont soumises à la loi canadienne sur la protection des renseignements personnels. Hutton Tech Solutions est une entreprise privée et n'est cotée sur aucune bourse.


Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Hutton Tech Solutions propose le réglage fin de modèles d'IA locaux à Kamloops | Hermes Vector