Granite Switch 4.1：一个端点同时跑对话、决策分类和语音转写

原文要点

IBM 在 Hugging Face 发布 Granite Switch 4.1（8B 与 30B）：基础模型组合一个通用决策 aLoRA（如 v1/systemone）、一个安全审核 Guardian aLoRA（原文称其在安全决策任务上平均超过 Jev 1.13、GPT-Luna-Decisions 等），并内置 Granite-Speech-5.0-Turbo-CTC 语音识别。三者共享一份显存与 KV 缓存，官方 Speech-to-Decisions 演示空间可在单端点实时完成转写、摘要、有害内容筛查和 15 个自定义标记。Granite Libraries 提供可组合的专用适配器，后续计划发布 Adapter SDK。

这次做成什么

用官方 Speech-to-Decisions 演示空间完成一次“上传音频→转写→摘要→自定义标记”的完整体验，理解一个端点如何在对话、决策分类和语音任务间切换；进阶者再从 Granite Libraries 挑选适配器规划自己的组合方案。

准备什么

• 可访问 Hugging Face 的网络环境和一个 Hugging Face 账号
• 一段 30 秒至 2 分钟的合成测试音频（自行录制的虚构会议片段，不含真人隐私）
• 进阶练习需要可运行 vLLM 的 GPU 环境，仅用演示空间不需要

具体怎么做

1. 打开 Speech-to-Decisions 演示空间

   在 Hugging Face 搜索官方博客中链接的 Speech-to-Decisions Space，确认页面由 granite-switch-4.1-8b 驱动，页面同时提供转写、摘要和标记测试入口，这就是“单端点多任务”的直观体现。

2. 上传测试音频并查看转写与摘要

   上传你准备的虚构会议音频，先得到逐字转写文本，再查看自动生成的摘要。检查转写中的数字、日期是否与音频一致，这一步验证的是内置 ASR 组件的转写质量。

3. 定义自定义内容标记并运行筛查

   在标记配置区填入本站下方示例中的自定义标记定义（如是否涉及预算承诺、是否出现负面合规表述），连同默认的有害内容筛查一起运行，观察同一份转写文本被决策适配器逐项判定为 true/false 的结果。

4. 规划自己的适配器组合（进阶）

   打开 Granite Libraries 与 Granite Switch 4.1 模型卡，列出你业务需要的分类任务，按“一个通用决策适配器＋若干专用分类适配器”的思路列出候选清单；具体加载命令与版本要求以模型卡和 GitHub 仓库为准，本站未实测。

可直接复制的材料

{"flags":[{"name":"budget_commitment","description":"转写文本中是否出现明确的预算金额或经费批准承诺","type":"boolean"},{"name":"compliance_risk","description":"是否出现可能违反数据合规的表述，如未经同意共享用户数据","type":"boolean"},{"name":"action_item_assigned","description":"是否给具体负责人分配了带截止时间的行动项","type":"boolean"},{"name":"customer_escalation","description":"是否提到客户投诉升级或需要高层介入","type":"boolean"}]}

请基于以下会议转写文本，逐项判定每个标记是否成立。只输出 JSON，键为标记名，值为 true 或 false，并附一个不超过 20 字的 evidence 字段引用转写原文依据；若文本信息不足，一律判 false，不要猜测。

输入与输出示例

本站虚构演示输出，用于说明判定格式，非官方空间实际运行结果。

输入

一段虚构音频，转写结果为：『运营例会，本周批准客服系统二期预算 8 万元，负责人林岚，11 月 15 日前完成供应商合同签署；另外有 3 起客户投诉已升级到区域经理处理。』

对应输出

{"budget_commitment":true,"compliance_risk":false,"action_item_assigned":true,"customer_escalation":true,"evidence":{"budget_commitment":"批准客服系统二期预算 8 万元","action_item_assigned":"林岚，11 月 15 日前完成","customer_escalation":"3 起客户投诉已升级"}}

做完检查这些

• 演示空间能对上传音频同时给出转写文本和摘要，两项结果来自同一页面同一次会话
• 自定义标记判定返回的是逐标记 true/false 结果，且每条结果能在转写原文中找到对应依据
• 对照模型卡能列出至少 3 个你计划组合的适配器名称及其各自负责的分类任务
• 确认 8B 与 30B 两个型号的区别说明已在模型卡中阅读，选型理由能用一句话写清

容易卡住的地方

• 演示空间为共享资源，响应速度受排队影响，不代表自托管端点的实际速度
• 原文中 Guardian 适配器超越其他模型、OpenASR 最快等说法均为作者单方表述，迁移到自己数据前需自行复测
• 自定义标记判定是模型推断而非规则匹配，金额门槛类硬规则不应完全交给模型判定
• Adapter SDK 与部分教程在原文发布时仍为计划状态，相关步骤需等官方发布后核对