微软开源Skill Recorder:用一次演示教会AI新技能

2026年8月3日

41

547

微软开源Skill Recorder:用一次演示教会AI新技能

2026年7月30日,微软在GitHub上开源了一款名为Skill Recorder的工具(microsoft/skill-recorder,MIT协议)。这个看似简单的工具背后,隐藏着人机交互范式的一次重要转变。用户只需对着屏幕完成一次操作演示,工具就能理解其意图,生成一份AI Agent可以直接执行的Skill文件。这不是传统的宏录制,也不是简单的像素回放——它真正理解的是「你想干什么」,并用Agent自己的方式重新实现。

与传统工具的本质区别

Skill Recorder的核心工作流程包含四个步骤:首先是录制阶段,用户通过快捷键⌘⇧R开始录制,正常操作电脑完成任务;其次是控制阶段,录制过程中有悬浮控制栏可随时静音、切换麦克风、结束或丢弃录制;第三是分析阶段,点击Analyze后,GitHub Copilot会重建用户的「意图+有序步骤列表」,用户可对步骤进行编辑、增删和重排;最后是生成阶段,确认后一键生成Skill文件(SKILL.md格式,Agent按需调用)或Automation文件(automation.json,按计划/触发器自动执行)。

隐私与安全设计

初看之下,Skill Recorder与市面上的录屏工具并无二致,但它与传统宏录制器有着本质区别。传统宏录制器回放的是精确的鼠标坐标和点击顺序,而Skill Recorder优先使用Agent的原生工具——如gh CLI、web_fetch、API调用、Microsoft 365工具——只有在任务确实是纯UI操作时,才会降级到浏览器自动化。例如,用户录制一次「在GitHub上创建Issue」的操作,Agent学会的不是「点击这个按钮、输入这个文字」,而是「用gh issue create命令创建Issue」。这意味着即使用户界面改版,Agent的Skill依然能正常工作。另一个关键特性是泛化能力:用户录制一次提交某个特定表单的操作,Agent学会的是提交所有类似结构的表单,它提取的是意图和模式,而非机械记忆某一次操作。

技术在降低门槛,但判断力从来不会被工具替代。

“行业观察”
🦞

JimoClaw — 桌面 AI Agent 工作台

让 AI 处理本地资料、操控浏览器,最终交付可直接使用的文档、表格与 PPT,而不只是一段回答。

下载桌面版

SKILL.md正在成为行业标准

在隐私保护方面,Skill Recorder的设计相对审慎:录制过程完全在本地执行,只有用户主动点击Analyze时,数据才会发送到GitHub Copilot云端进行处理。语音旁白功能使用Whisper模型进行本地转录,支持99种语言。然而,目前版本(v0.3.1)尚未提供自动脱敏功能,这意味着录屏可能会捕获密码、API token等敏感信息。微软也明确表示,这是一个实验性研究项目,适合在隔离环境中用合成数据进行体验,不适合录制真实业务流程。

人机交互范式的质变

Skill Recorder的输出格式SKILL.md正在获得越来越多主流Agent框架的采纳。Anthropic的Claude Code原生支持SKILL.md格式,并在Cowork中内置了「录制Skill」功能;OpenAI Codex和Goose同样兼容这一格式;OpenClaw也使用SKILL.md作为技能定义格式。当多个头部Agent框架都在采纳同一格式时,它就不再是某家公司的私有规范,而是在成为行业事实标准。微软在Skill生态上的布局不止于此:microsoft/skills项目提供175+预制Skill库,覆盖Azure SDK和Foundry开发;Resource2Skill研究项目能够从教程视频、文档、代码自动提取Skill;CUA Skill则支持Windows桌面GUI操作自动化,覆盖17+应用程序。四条线从手动录制到自动提取,从代码开发到桌面操作,形成了完整的生态覆盖。SKILL.md是这个生态系统的通用语言,而谁掌握了标准,谁就掌握了Agent技能的分发权。

🛡️

积墨 AI 安全隐患巡检系统

任务一键下达 · 隐患 AI 识别 · 整改全程留痕 · 报告一键生成。让安全巡检真正看得见、管得住、能闭环。

了解方案

如有侵权,请联系删除。

Related Articles

联系我们 试用咨询
小墨 AI