A Hutton Tech Solutions oferece um serviço chamado ajuste fino de modelo (model fine-tuning), que envolve o treinamento de modelos de inteligência artificial em dados específicos de uma empresa. De acordo com a empresa, modelos de IA genéricos muitas vezes carecem de compreensão de terminologia do setor, políticas da empresa e documentação específica. O ajuste fino aborda isso continuando o treinamento de modelos pré-treinados, como Llama 3 ou Mistral, em dados proprietários para que se tornem especialistas no contexto de negócios do usuário.
Sponsored content from Hutton Tech Solutions.
Hutton Tech Solutions Oferece Ajuste Fino de Modelos de IA Local em Kamloops
A Hutton Tech Solutions fornece serviços de ajuste fino de modelos para empresas de Kamloops, treinando IA em dados proprietários usando infraestrutura local para garantir privacidade e precisão específica do domínio.
Por Hermes Vector · Read in English

Em resumo
- A Hutton Tech Solutions treina modelos de IA em dados comerciais específicos para melhorar a precisão e a consistência de estilo, de acordo com a empresa.
- Todos os processos de ajuste fino ocorrem em hardware local NVIDIA DGX em Kamloops, garantindo que os dados nunca saiam do Canadá, afirma a empresa.
- Os preços para pacotes de ajuste fino começam em $3,000 para opções iniciais e chegam a $7,500 para pacotes profissionais, de acordo com a empresa.
- A empresa afirma que modelos ajustados podem reduzir o tempo de redação de contratos em 70% e melhorar a precisão em perguntas específicas do domínio em 30-50%.
O que o Serviço Envolve
A empresa descreve o ajuste fino como semelhante à contratação de um funcionário que já trabalhou no setor por anos. Após o processo, o modelo pode responder a perguntas usando a base de conhecimento da empresa, gerar documentos no estilo da empresa e seguir políticas específicas. A Hutton Tech Solutions cita o exemplo de um escritório de advocacia de Kamloops que utilizou o serviço. O escritório forneceu mais de 500 contratos, 200 memorandos jurídicos e resumos de jurisprudência de BC. A empresa afirma que, após o ajuste fino do modelo Llama 3 70B em um conjunto de dados de 120GB, a IA reduziu o tempo de redação de contratos em 70% e manteve o privilégio advogado-cliente porque os dados nunca saíram de Kamloops.
Quem se Beneficia com o Ajuste Fino
A Hutton Tech Solutions identifica vários setores que se beneficiam desta tecnologia. Para serviços profissionais, como escritórios de advocacia e contabilidade, a empresa afirma que modelos ajustados podem redigir entregáveis e auxiliar na pesquisa. Na saúde, o serviço ajuda a gerar notas clínicas e auxiliar no planejamento de tratamento. Empresas de manufatura e engenharia podem usar os modelos para responder a perguntas técnicas e auxiliar na resolução de problemas. Empresas de atendimento ao cliente podem utilizar a tecnologia para responder a perguntas com precisão e lidar com tickets de suporte.
O Processo e a Tecnologia
O processo de ajuste fino começa com a coleta de dados, exigindo pelo menos 10-20 documentos para o ajuste básico, embora a empresa recomende mais de 50 documentos para melhores resultados. A Hutton Tech Solutions cuida da preparação dos dados, que inclui limpeza e formatação. A empresa então seleciona um modelo base, como Llama 3 8B ou Mistral 7B, dependendo do caso de uso. O treinamento ocorre em hardware NVIDIA DGX em Kamloops ao longo de 48-72 horas. A empresa utiliza uma técnica chamada QLoRA (Quantized Low-Rank Adaptation) para reduzir o tempo de treinamento e os requisitos de computação em 90%. A empresa afirma que a janela de contexto é estendida para mais de 100k tokens, permitindo que o modelo aprenda com documentos inteiros de uma vez.
Preços e Disponibilidade
A Hutton Tech Solutions oferece três pacotes principais para serviços de ajuste fino. O Pacote Starter custa $3,000 e inclui um modelo de até 13B de parâmetros, 10-20 documentos e um prazo de entrega de 3-5 dias. O Pacote Professional tem o preço de $7,500, oferecendo um modelo de até 70B de parâmetros, mais de 50 documentos e um prazo de entrega de 48-72 horas. O Pacote Enterprise possui preços personalizados para modelos maiores e documentos ilimitados. A empresa observa que todo o treinamento acontece em infraestrutura local em Kamloops, garantindo que os dados permaneçam no Canadá e estejam sujeitos à lei de privacidade canadense. A Hutton Tech Solutions é uma empresa privada e não está listada em nenhuma bolsa de valores.
Fontes (em inglês)
Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.