Hermes Vector

Español ·

Sponsored content from Hutton Tech Solutions.

Hutton Tech Solutions ofrece ajuste fino de modelos de IA local en Kamloops

Hutton Tech Solutions proporciona servicios de ajuste fino de modelos para empresas de Kamloops, entrenando IA con datos propietarios utilizando infraestructura local para garantizar la privacidad y la precisión específica del dominio.

Por Hermes Vector · Read in English

Ilustración: Hutton Tech Solutions ofrece ajuste fino de modelos de IA local en Kamloops

En breve

  • Hutton Tech Solutions entrena modelos de IA con datos comerciales específicos para mejorar la precisión y la consistencia del estilo, según la empresa.
  • Todos los procesos de ajuste fino ocurren en hardware local NVIDIA DGX en Kamloops, asegurando que los datos nunca salgan de Canadá, afirma la empresa.
  • Los precios para los paquetes de ajuste fino comienzan en $3,000 para opciones iniciales y suben hasta $7,500 para paquetes profesionales, según la empresa.
  • La empresa afirma que los modelos ajustados pueden reducir el tiempo de redacción de contratos en un 70% y mejorar la precisión en preguntas específicas del dominio entre un 30-50%.

Hutton Tech Solutions ofrece un servicio llamado ajuste fino de modelos (model fine-tuning), que implica entrenar modelos de inteligencia artificial con los datos específicos de una empresa. Según la empresa, los modelos de IA genéricos a menudo carecen de comprensión sobre la terminología de la industria, las políticas de la empresa y la documentación específica. El ajuste fino aborda esto continuando el entrenamiento de modelos preentrenados, como Llama 3 o Mistral, con datos propietarios para que se conviertan en expertos en el contexto empresarial del usuario.

Qué implica el servicio

La empresa describe el ajuste fino como algo similar a contratar a un empleado que ya ha trabajado en la industria durante años. Después del proceso, el modelo puede responder preguntas utilizando la base de conocimientos de la empresa, generar documentos con el estilo de la empresa y seguir políticas específicas. Hutton Tech Solutions cita el ejemplo de una firma de abogados en Kamloops que utilizó el servicio. La firma proporcionó más de 500 contratos, 200 memorandos legales y resúmenes de jurisprudencia de BC. La empresa afirma que, tras ajustar el modelo Llama 3 70B con un conjunto de datos de 120GB, la IA redujo el tiempo de redacción de contratos en un 70% y mantuvo el privilegio abogado-cliente porque los datos nunca salieron de Kamloops.

Quién se beneficia del ajuste fino

Hutton Tech Solutions identifica varios sectores que se benefician de esta tecnología. Para servicios profesionales como firmas de abogados y contabilidad, la empresa dice que los modelos ajustados pueden redactar entregables y asistir en la investigación. En el sector salud, el servicio ayuda a generar notas clínicas y asistir en la planificación de tratamientos. Las empresas de manufactura e ingeniería pueden utilizar los modelos para responder preguntas técnicas y asistir en la resolución de problemas. Las empresas de servicio al cliente pueden utilizar la tecnología para responder preguntas con precisión y gestionar tickets de soporte.

El proceso y la tecnología

El proceso de ajuste fino comienza con la recopilación de datos, requiriendo al menos 10-20 documentos para un ajuste básico, aunque la empresa recomienda más de 50 documentos para obtener mejores resultados. Hutton Tech Solutions se encarga de la preparación de los datos, lo que incluye la limpieza y el formato. Luego, la empresa selecciona un modelo base, como Llama 3 8B o Mistral 7B, dependiendo del caso de uso. El entrenamiento ocurre en hardware NVIDIA DGX en Kamloops durante 48-72 horas. La empresa utiliza una técnica llamada QLoRA (Quantized Low-Rank Adaptation) para reducir el tiempo de entrenamiento y los requisitos de cómputo en un 90%. La empresa afirma que la ventana de contexto se extiende a más de 100k tokens, lo que permite al modelo aprender de documentos enteros a la vez.

Precios y disponibilidad

Hutton Tech Solutions ofrece tres paquetes principales para los servicios de ajuste fino. El Paquete Starter cuesta $3,000 e incluye un modelo de hasta 13B de parámetros, 10-20 documentos y un tiempo de entrega de 3-5 días. El Paquete Professional tiene un precio de $7,500, ofreciendo un modelo de hasta 70B de parámetros, más de 50 documentos y un tiempo de entrega de 48-72 horas. El Paquete Enterprise tiene precios personalizados para modelos más grandes y documentos ilimitados. La empresa señala que todo el entrenamiento ocurre en infraestructura local en Kamloops, asegurando que los datos permanezcan en Canadá y estén sujetos a la ley de privacidad canadiense. Hutton Tech Solutions es una empresa privada y no cotiza en ninguna bolsa de valores.


Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Hutton Tech Solutions ofrece ajuste fino de modelos de IA local en Kamloops | Hermes Vector