Hutton Tech Solutions propose une infrastructure IA privée à Kamloops

Hutton Tech Solutions est une entreprise privée basée à Kamloops, en Colombie-Britannique, qui fournit des services d'infrastructure IA privée et de formation de modèles pour les entreprises. L'entreprise déclare que ses opérations sont gérées localement et conçues pour offrir des capacités IA de niveau entreprise sans les coûts associés. Selon l'entreprise, son infrastructure est alimentée par du matériel NVIDIA DGX, ce qui, selon elle, permet un calcul haute performance tout en maintenant une stricte souveraineté des données.

Infrastructure et souveraineté des données

L'offre principale de Hutton Tech Solutions est une infrastructure IA privée qui maintient les données au Canada. L'entreprise affirme que cette configuration offre une souveraineté des données à 100 %, ce qui signifie que les données des clients ne quittent jamais le pays. Selon Hutton Tech Solutions, l'infrastructure est conforme à HIPAA, SOC2 et PIPEDA. L'entreprise déclare que ce déploiement local entraîne une latence inférieure à la milliseconde sur le réseau local et élimine les risques associés aux serveurs cloud basés aux États-Unis, tels que le CLOUD Act. L'entreprise note également que son système utilise 192 Go de mémoire unifiée et offre une utilisation illimitée sans limites de débit ni limitation de vitesse.

Services et capacités

Hutton Tech Solutions propose plusieurs services spécifiques sous l'égide de son infrastructure IA. Ceux-ci incluent l'inférence IA privée, que l'entreprise dit adaptée aux services de santé, juridiques et financiers. Un autre service est l'optimisation de modèles, que l'entreprise affirme permettre le déploiement de modèles de 70B paramètres sur du matériel grand public en utilisant la quantification FP4. Selon Hutton Tech Solutions, cette méthode conserve 93 % de précision tout en utilisant 75 % moins de mémoire. L'entreprise fournit également une formation à mémoire longue pour le traitement de documents avec des contextes de plus de 100k jetons et un bac à sable pour agents permettant d'exécuter plus de 50 agents IA simultanément. De plus, l'entreprise propose une simulation robotique pour l'entraînement de drones et de robots d'entrepôt utilisant l'intégration NVIDIA Isaac Lab.

Tarifs et disponibilité

L'entreprise affiche des tarifs transparents pour ses principaux services. L'inférence IA privée est facturée 2 000 $ par mois, ce qui inclut du matériel NVIDIA DGX dédié, un accès sécurisé par VPN et une surveillance 24h/24 et 7j/7. Le réglage fin des modèles commence à 3 000 $, couvrant des modèles jusqu'à 70B paramètres avec un délai de 48 à 72 heures. Le service de bac à sable pour agents est affiché à 3 000 $ par mois. Hutton Tech Solutions déclare offrir une garantie pilote de 30 jours, où les clients ne paient pas si la latence n'est pas inférieure à 5 ms ou s'ils ne sont pas satisfaits. L'entreprise déclare servir des clients dans l'intérieur de la Colombie-Britannique et à l'international, avec des listes de services spécifiques pour des villes incluant Kamloops, Kelowna et Vancouver. Hutton Tech Solutions confirme qu'il s'agit d'une entreprise privée et qu'elle n'est cotée sur aucune bourse.

Sources (en anglais)

• Hutton Tech Solutions: product page

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.