Hermes Vector

中文 ·

Sponsored content from Hutton Tech Solutions.

Hutton Tech Solutions在坎卢普斯提供本地人工智能模型微调服务

Hutton Tech Solutions为坎卢普斯的企业提供模型微调服务,利用本地基础设施在专有数据上训练人工智能,以确保隐私和领域特定的准确性。

作者 Hermes Vector · Read in English

插图: Hutton Tech Solutions在坎卢普斯提供本地人工智能模型微调服务

摘要

  • Hutton Tech Solutions根据该公司称,通过在特定业务数据上训练人工智能模型来提高准确性和风格一致性。
  • 该公司表示,所有微调过程均在坎卢普斯的本地NVIDIA DGX硬件上进行,确保数据永不离开加拿大。
  • 该公司称,微调套餐的价格从3,000美元的入门选项起,专业套餐高达7,500美元。
  • 该公司表示,微调后的人工智能模型可将合同起草时间减少70%,并将领域特定问题的准确性提高30-50%。

Hutton Tech Solutions提供一项名为模型微调的服务,涉及在公司的特定数据上训练人工智能模型。根据该公司称,通用人工智能模型往往缺乏对行业术语、公司政策和特定文档的理解。微调通过继续在专有数据上训练预训练模型(如Llama 3或Mistral)来解决这一问题,使它们成为用户业务背景的专家。

服务内容

该公司将微调描述为类似于雇佣一名在该行业工作多年的员工。经过该过程后,模型可以使用公司的知识库回答问题、以公司风格生成文档并遵循特定政策。Hutton Tech Solutions引用了坎卢普斯一家律师事务所使用该服务的例子。该事务所提供了500多份合同、200份法律备忘录和不列颠哥伦比亚省案例法摘要。该公司表示,在120GB数据集上微调Llama 3 70B模型后,人工智能将合同起草时间减少了70%,并且由于数据从未离开坎卢普斯,保持了律师-客户特权。

谁从微调中受益

Hutton Tech Solutions确定了从这项技术中受益的几个部门。对于法律和会计事务所等专业服务机构,该公司称微调模型可以起草交付成果并协助研究。在医疗保健领域,该服务有助于生成临床笔记并协助治疗计划。制造和工程公司可以使用这些模型来回答技术问题并协助故障排除。客户服务企业可以利用这项技术准确回答问题并处理支持工单。

流程与技术

微调过程从数据收集开始,基本微调至少需要10-20份文档,尽管该公司建议50+份文档以获得最佳效果。Hutton Tech Solutions负责数据准备,包括清理和格式化。然后,该公司根据用例选择基础模型,如Llama 3 8B或Mistral 7B。训练在坎卢普斯的NVIDIA DGX硬件上进行,耗时48-72小时。该公司使用一种名为QLoRA(量化低秩适应)的技术,将训练时间和计算需求减少90%。该公司表示,上下文窗口已扩展到100k+令牌,允许模型一次性从整个文档中学习。

定价与可用性

Hutton Tech Solutions提供三种主要的微调服务套餐。入门套餐价格为3,000美元,包括最多13B参数模型、10-20份文档以及3-5天的周转时间。专业套餐定价为7,500美元,提供最多70B参数模型、50+份文档以及48-72小时的周转时间。企业套餐针对更大模型和无限制文档提供定制定价。该公司指出,所有训练都在坎卢普斯的本地基础设施上进行,确保数据留在加拿大并受加拿大隐私法约束。Hutton Tech Solutions是一家私营公司,未在任何证券交易所上市。


来源(英文)

本文由人工智能翻译自英文原文,并经过自动审核,确保与原文意思一致。来源已用英文核实。

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Hutton Tech Solutions在坎卢普斯提供本地人工智能模型微调服务 | Hermes Vector