Hermes Vector

Português ·

Sponsored content from Hutton Tech Solutions.

Hutton Tech Solutions Oferece Ajuste Fino de Modelos de IA Local em Kamloops

A Hutton Tech Solutions fornece serviços de ajuste fino de modelos para empresas de Kamloops, treinando IA em dados proprietários usando infraestrutura local para garantir privacidade e precisão específica do domínio.

Por Hermes Vector · Read in English

Ilustração: Hutton Tech Solutions Oferece Ajuste Fino de Modelos de IA Local em Kamloops

Em resumo

  • A Hutton Tech Solutions treina modelos de IA em dados comerciais específicos para melhorar a precisão e a consistência de estilo, de acordo com a empresa.
  • Todos os processos de ajuste fino ocorrem em hardware local NVIDIA DGX em Kamloops, garantindo que os dados nunca saiam do Canadá, afirma a empresa.
  • Os preços para pacotes de ajuste fino começam em $3,000 para opções iniciais e chegam a $7,500 para pacotes profissionais, de acordo com a empresa.
  • A empresa afirma que modelos ajustados podem reduzir o tempo de redação de contratos em 70% e melhorar a precisão em perguntas específicas do domínio em 30-50%.

A Hutton Tech Solutions oferece um serviço chamado ajuste fino de modelo (model fine-tuning), que envolve o treinamento de modelos de inteligência artificial em dados específicos de uma empresa. De acordo com a empresa, modelos de IA genéricos muitas vezes carecem de compreensão de terminologia do setor, políticas da empresa e documentação específica. O ajuste fino aborda isso continuando o treinamento de modelos pré-treinados, como Llama 3 ou Mistral, em dados proprietários para que se tornem especialistas no contexto de negócios do usuário.

O que o Serviço Envolve

A empresa descreve o ajuste fino como semelhante à contratação de um funcionário que já trabalhou no setor por anos. Após o processo, o modelo pode responder a perguntas usando a base de conhecimento da empresa, gerar documentos no estilo da empresa e seguir políticas específicas. A Hutton Tech Solutions cita o exemplo de um escritório de advocacia de Kamloops que utilizou o serviço. O escritório forneceu mais de 500 contratos, 200 memorandos jurídicos e resumos de jurisprudência de BC. A empresa afirma que, após o ajuste fino do modelo Llama 3 70B em um conjunto de dados de 120GB, a IA reduziu o tempo de redação de contratos em 70% e manteve o privilégio advogado-cliente porque os dados nunca saíram de Kamloops.

Quem se Beneficia com o Ajuste Fino

A Hutton Tech Solutions identifica vários setores que se beneficiam desta tecnologia. Para serviços profissionais, como escritórios de advocacia e contabilidade, a empresa afirma que modelos ajustados podem redigir entregáveis e auxiliar na pesquisa. Na saúde, o serviço ajuda a gerar notas clínicas e auxiliar no planejamento de tratamento. Empresas de manufatura e engenharia podem usar os modelos para responder a perguntas técnicas e auxiliar na resolução de problemas. Empresas de atendimento ao cliente podem utilizar a tecnologia para responder a perguntas com precisão e lidar com tickets de suporte.

O Processo e a Tecnologia

O processo de ajuste fino começa com a coleta de dados, exigindo pelo menos 10-20 documentos para o ajuste básico, embora a empresa recomende mais de 50 documentos para melhores resultados. A Hutton Tech Solutions cuida da preparação dos dados, que inclui limpeza e formatação. A empresa então seleciona um modelo base, como Llama 3 8B ou Mistral 7B, dependendo do caso de uso. O treinamento ocorre em hardware NVIDIA DGX em Kamloops ao longo de 48-72 horas. A empresa utiliza uma técnica chamada QLoRA (Quantized Low-Rank Adaptation) para reduzir o tempo de treinamento e os requisitos de computação em 90%. A empresa afirma que a janela de contexto é estendida para mais de 100k tokens, permitindo que o modelo aprenda com documentos inteiros de uma vez.

Preços e Disponibilidade

A Hutton Tech Solutions oferece três pacotes principais para serviços de ajuste fino. O Pacote Starter custa $3,000 e inclui um modelo de até 13B de parâmetros, 10-20 documentos e um prazo de entrega de 3-5 dias. O Pacote Professional tem o preço de $7,500, oferecendo um modelo de até 70B de parâmetros, mais de 50 documentos e um prazo de entrega de 48-72 horas. O Pacote Enterprise possui preços personalizados para modelos maiores e documentos ilimitados. A empresa observa que todo o treinamento acontece em infraestrutura local em Kamloops, garantindo que os dados permaneçam no Canadá e estejam sujeitos à lei de privacidade canadense. A Hutton Tech Solutions é uma empresa privada e não está listada em nenhuma bolsa de valores.


Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Hutton Tech Solutions Oferece Ajuste Fino de Modelos de IA Local em Kamloops | Hermes Vector