Hermes Vector

中文 ·

Meta与Apple合作在Mac Studio上运行Muse Spark开源人工智能模型

Meta与Apple合作,利用MLX框架在Apple M5 Ultra Mac Studio上本地运行拥有8160亿参数的Muse Spark开源人工智能模型。

作者 Hermes-Vector AI Desk · Read in English

插图: Meta与Apple合作在Mac Studio上运行Muse Spark开源人工智能模型

摘要

  • Meta发布了Muse Spark Open,这是一个拥有8160亿总参数、420亿活跃参数的开源权重人工智能模型。
  • 该模型利用MLX框架在两台Apple M5 Ultra Mac Studio上本地运行,需要高达1TB的统一内存。
  • Meta和Apple的高管公开赞扬了此次合作,标志着两家公司历史上紧张关系的转变。
  • Muse Spark Open专为编码、智能体任务和多模态处理而设计,其权重可在Hugging Face和其他平台上获取。

Meta和Apple宣布了一项合作,允许开发者在Apple的高端台式电脑上本地运行Meta的新款Muse Spark Open人工智能模型。这一合作标志着两家历史上互为竞争对手的公司发生了转变,它们正共同努力将大规模人工智能能力带入桌面硬件。

模型规格与功能

Muse Spark Open是一个开源权重人工智能模型,拥有8160亿总参数,其中在任何给定时间有420亿个参数处于活跃状态。据Meta称,该模型采用混合专家(mixture-of-experts)架构,并具备100万token的上下文窗口。它原生支持多模态,意味着它可以处理文本、图像、视频和音频。

Meta将该模型描述为迄今为止其“最强大的美国开源权重模型”。该公司表示,Muse Spark Open专为编码、复杂软件工程、长周期任务和多步推理而设计。在测试中,Meta使用其Muse Code终端运行该模型,执行了修复错误和完成开源Mastodon客户端完整构建等任务。该模型还在DaVinci Resolve中进行了测试,用于审查素材并识别需要裁剪的部分。

在Apple硬件上本地运行

此次合作的重点是利用Apple的MLX机器学习框架,使该模型能够在Apple的M5 Ultra Mac Studio上运行。Meta表示,该模型可以在使用两台Apple M5 Ultra Mac Studio的桌面设置上运行,每台配置高达512GB的统一内存。这两台机器共同提供1TB的内存,使模型能够在无需云基础设施的情况下运行。

Apple发布了关于如何使用高速通信在多台Mac Studio之间分配模型的技术细节。Apple首席执行官John Ternus对设置的效率发表了评论,他表示:“能在你的办公桌前如此高效地运行Muse Spark Open这样规模和水平的模型,令人惊叹。Mac Studio不断突破设备端人工智能的边界!”

本地执行通过消除将任务卸载到云服务器的需求,在数据安全和成本节约方面提供了潜在优势。然而,硬件要求相当高。配备M5 Ultra芯片和256GB内存的单台Mac Studio价格至少为10,799美元,而512GB版本计划于本月晚些时候发布。四台机器的配置成本可能超过40,000美元。

高管反应与背景

Meta首席执行官Mark Zuckerberg在X平台上公开支持此次合作,写道:“Muse Spark Open——权重今天发布——得益于与@johnternus和Apple的合作,在新Mac Studio上运行效果极佳。”Meta首席人工智能官Alexandr Wang向Axios指出此次合作的意义,他说:“很高兴看到‘爸爸妈妈’再次和睦相处。”

Wang解释说,许多高性能的开源权重模型对于标准个人电脑来说太大,但Mac Studio的内存容量使得本地执行变得切实可行。他还感谢了人工智能研究员兼前Apple高管Daniel Gross在促成此次合作中发挥的作用。

此次合作发生在两家公司多年紧张关系之后,特别是Apple在2021年实施的隐私变更限制了广告追踪,Meta估计这将使其收入减少100亿美元。两家公司均未确认此次合作是否标志着更广泛战略联盟的开始。

可用性

Muse Spark Open的权重可通过Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden和Microsoft Foundry Models等平台下载。该模型也可通过Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter和Together AI等API提供商访问。Apple发布了更新的MLX技术文档,以支持在Apple Silicon上部署该模型。


来源(英文)

本文由人工智能翻译自英文原文,并经过自动审核,确保与原文意思一致。来源已用英文核实。

Advertisement

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Meta与Apple合作在Mac Studio上运行Muse Spark开源人工智能模型 | Hermes Vector