Hermes Vector

中文 ·

谷歌推出用于多模态决策的 Gemini Decisions API

谷歌推出了由 Gemini Decision 1 模型驱动的 Gemini Decisions API,用于在文本、图像、音频、视频和 PDF 之间进行快速、封闭集的决策。

作者 Hermes Vector · Read in English

插图: 谷歌推出用于多模态决策的 Gemini Decisions API

摘要

  • 谷歌推出了由 Gemini Decision 1 模型驱动的 Gemini Decisions API。
  • 该 API 可在单次传递中评估多达 1,000 个是/否、选择和量规评分问题,适用于多模态输入。
  • 定价为每 100 万输入令牌 0.10 美元,不收取输出令牌费用。
  • 端到端延迟为 150-250 毫秒,每个答案都包含 0 到 1 之间的置信度分数。

谷歌推出了 Gemini Decisions API,这是一个新的端点,由 Gemini Decision 1 模型(gemini-decision-1)驱动,提供快速的封闭集决策,可通过 Google AI Studio 中的 Gemini API 使用。

产品详情

Decisions API 提供了专为有限选择设计的原语,例如工具选择、策略检查、模型路由和上下文分级。用户可以传入一个多模态输入(涵盖文本、图像、音频、视频和 PDF,最多 256K 令牌)以及多达 1,000 个独立问题。Gemini Decision 1 不是逐个令牌地生成答案文本,而是在单次前向传递中对候选选项进行评分,在 150-250 毫秒的端到端延迟内返回概率和置信度分数,价格为每 100 万输入令牌 0.10 美元,不收取输出令牌费用。

谷歌表示,Gemini Decision 1 在涵盖代理路由、推理、排名和多模态理解的基准测试套件中处于领先地位,且具有最低的校准误差。该模型将中位延迟保持在模型计算的 50-100 毫秒(端到端 150-250 毫秒),适用于多模态输入和最多 16K 令牌的上下文,并且从每次请求 1 个问题到 100 个问题,延迟几乎保持不变。由于不收取输出令牌费用,谷歌表示,Gemini Decision 1 配合 Decisions API 在共享基准测试套件中的成本比 Gemini 3.5 Flash-Lite 配合 Interactions API 低近 5 倍。

决策类型

该 API 在一次传递中支持三种决策类型:

  • noul(是/否):估算是/否条件成立的概率,并可选提供真和假的描述标准。
  • choice(多项选择):从 2 到 255 个选项中进行选择,返回获胜者以及每个候选选项的归一化概率。
  • score(有序量规):在有序量规(从 0 开始)上对输入进行评分,返回连续加权分数和各级别的概率。

每个答案都包含一个置信度分数(0 到 1),以便代码可以将模棱两可的情况路由到备用方案或人工审核员。

用例

谷歌内部的各个团队正在将 Decisions API 用作低延迟的控制平面:

  • Gemini Notebook 将 Decisions API 用作实时路由器,以即时将传入查询路由到每个请求的最佳模型层级和思维层级。Decisions API 在毫秒级内对意图进行分类,从而以高达 40% 的低延迟处理日常查询,同时为复杂任务保留深度推理模型。
  • Stitch 使用 Decisions API 在几秒钟内生成可播放的产品流程线框,并几乎即时应用通过语音或点击进行的编辑。
  • Google Labs 的 CC 使用 Decisions API 在不到一秒的时间内从 200 多个选项的调色板中选择正确的表情符号反应。
  • Google Search 使用 Decision API 在延迟范围内以高功效检测对抗性行为和对抗性评估内容。

定价和可用性

Gemini Decision 1 的定价为每 100 万输入令牌 0.10 美元,输出令牌免费,Google AI Studio 中提供无 API 费用层级用于原型设计。无论评估多少问题,共享输入在每个请求中只计费一次;每个问题仅增加其自身的指令和标准令牌。没有输出令牌费用、可变思维令牌账单,也没有单独音频转录和光学字符识别(OCR)费用。

开发人员可以通过在 Google AI Studio 中获取 API 密钥,并遵循 Decisions API 文档中的 Python、JavaScript 和 REST 指南来开始构建。生态系统集成正在 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode 以及 google-genai SDK 中推出,Google Cloud 中的 Gemini 也将很快提供支持。

为什么这很重要

Gemini Decisions API 为有限多模态决策提供了一种低延迟、具有成本效益的替代方案,取代了逐个令牌的生成方式,允许开发人员使用置信度分数将模棱两可的情况路由到人工审核员。


来源(英文)

本文由人工智能翻译自英文原文,并经过自动审核,确保与原文意思一致。来源已用英文核实。

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

谷歌推出用于多模态决策的 Gemini Decisions API | Hermes Vector