用ML Intern把想法训成小模型

原文要点

作者用HuggingChat里的ML Intern模式，只靠一段精心写的brief，让代理在Hugging Face硬件上完成数据准备、训练、评估并发布到Hub，做了六个小模型。要点：开头一行讲清目标；把已核实的信息放在“Verified facts, do not re-derive”标题下避免代理重复花钱考证；要求训练前先报基座模型的基线分数；先做小步数烟测并检查保存的权重确实变化再付全款跑正式训练；结尾列清交付物和花费上限并要求超额先请示。作者公布的费用表中六个项目算力合计约103美元（各项目约1.90至37美元），仅为作者当时会话的报告值。

这次做成什么

学会写一份可直接粘贴给ML Intern的中文训练brief，目标是把一个想法训成一个小模型，流程为：写brief→要基线→小步烟测→正式训练→评估→发布，超预算必须先请示。

准备什么

• 有Hugging Face账号并能在HuggingChat中开启ML Intern模式
• 有一个明确的想法和可用的数据集（已有或能描述如何合成）
• 已决定基座模型，并了解其许可证允许微调
• 准备一个小额预算上限（作者示例项目多为个位数到几十美元，仅作参考）

具体怎么做

1. 用一句话锁定目标和理由

   在brief第一段写：想要什么模型、为什么现有模型不满足（太大、太慢、不会你的领域）。这决定代理后面所有取舍。

2. 列出已核实事实

   新建一个标题就叫“已核实事实，不要重新推导”，把你已确认的数据集名、基座模型名、训练脚本或训练器写进去，让代理把预算花在干活上而不是重新查证。

3. 要求先报基线再训练

   写明：正式训练前，先在同一个评估指标上测基座模型的零样本分数并汇报，否则训完无法判断有没有提升。

4. 加烟测关卡

   写明：先跑约50步的短训练，然后检查保存的权重文件确实发生了变化（对比哈希或参数差异），确认后再继续付全款跑正式训练。

5. 写清交付物和预算上限

   结尾列出：模型卡要包含什么（基线对比、评估集大小、用法示例），并写“总花费上限X美元，超过前先问我”。代理从零预算起步，付费任务需你批准。

6. 分批放权

   第一次跑完先读它交回的基线和烟测报告，确认无误再提高上限让它继续，不要一开始就给满预算。

可直接复制的材料

目标（一句话）：把电商评论情感分类做成一个小模型，因为通用大模型太贵太慢，我想要一个能本地跑的轻量分类器。

已核实事实，不要重新推导：
- 训练数据：我已上传到Hub的数据集 myshop/review-sentiment-zh，共4200条标注评论，含train/test划分，字段为text和label（三分类：正面/中性/负面）。
- 基座模型：Qwen3.5-0.8B（此处替换为你确认可微调的模型），许可证允许微调。
- 训练方式：常规指令微调即可，无需自定义训练器。

工作要求：
1. 训练前，先在test集上测基座模型零样本的分类准确率并汇报，作为基线。
2. 先跑约50步的烟测训练，保存权重后检查权重确实发生了变化（对比保存前后），把证据给我看，确认后再跑正式训练。
3. 正式训练完成后在test集上评估，报告准确率并与基线对比。
4. 把模型发布到我的Hub账户，模型卡需包含：基线对比表、test集大小、训练时长与硬件、三条使用示例。

预算：总花费上限12美元，任何会超过上限的操作先停下来问我，给出选项等我选。

输入与输出示例

本站虚构演示数字，仅示意交付物长什么样，非真实训练结果。

输入

按上述brief提交后，代理第一阶段应回报：基座模型零样本在300条test评论上准确率41.3%；烟测50步完成，保存的adapter权重与初始权重哈希不同，确认权重已更新。

对应输出

正式训练（2个epoch）后test准确率78.6%，较基线+37.3个百分点；模型已发布到Hub，模型卡含基线对比表（41.3%→78.6%）、test集300条、训练22分钟于A10G、三条调用示例；本次算力花费4.80美元，未超12美元上限。

做完检查这些

• brief中有单独标题存放已核实事实且写明不要重新推导
• brief明确要求训练前先报基座模型在同一指标上的基线分数
• brief包含约50步烟测并要求验证保存权重确实变化
• 写明总花费上限和超额先请示的指令
• 交付物清单写明模型卡必须包含基线对比

容易卡住的地方

• 不写基线要求会拿到一个训好的模型却不知道比起基座有没有提升
• 不挂烟测检查可能付了全款才发现训练配置错误、权重根本没动
• 数据集和基座模型的许可证要自行确认，代理不会替你判断法律问题
• 文中各项目的美元花费是作者当时会话的报告值，仅作量级参考，不保证你的花费相同
• 预算上限能被严格执行的前提是代理从零预算起步这一机制生效，初次使用建议先小额验证