Install
openclaw skills install video-download-transcribeVideo Download Transcribe
多平台视频下载 + 本地转录 + 视频内容分析。 **触发词**：这个视频说了什么、视频内容是什么、帮我看这个视频、下载这个视频、视频转录、字幕提取、B站视频、抖音视频、bilibili、youtube视频、帮我转录 **支持平台**：B站/抖音/TikTok/YouTube/小红书/微博/快手
多平台视频下载 + 本地转录
功能特点
- ✅ 纯浏览器下载（免费） — 抖音用 Playwright 无水印抓取，无需 API Key
- ✅ MLX Whisper — Apple Silicon 原生 Metal GPU 加速（Mac M系列首选）
- ✅ faster-whisper — CPU/CUDA 通用兜底（非 Apple Silicon 也能用）
- ✅ 短视频同步转录 — <5 分钟视频直接返回完整结果
- ✅ 长视频后台转录 — ≥5 分钟自动后台运行，返回 transcript_id 可查询
- ✅ 可检索 — 转录结果支持关键词查询相关片段 + 时间戳
支持的平台
| 平台 | 检测关键词 | 下载方式 |
|---|---|---|
| B站 | bilibili.com/video, b23.tv, BV号 | yt-dlp |
| 抖音 | douyin.com, v.douyin.com | Playwright 浏览器抓取 或 TikHub |
| TikTok | tiktok.com | TikHub |
| YouTube | youtube.com, youtu.be | yt-dlp |
| 小红书 | xiaohongshu.com, xhslink.com | TikHub |
| 微博 | weibo.com, m.weibo.cn | TikHub |
| 快手 | kuaishou.com, ksurl.cn | TikHub |
🚀 一键完整 pipeline（推荐）
下载 + 转录 + 视觉增强理解，一行命令搞定：
python3 ~/.openclaw/workspace/skills/video-download-transcribe/video_full_pipeline.py "<视频URL或本地路径>" [--keep-video]
自动检测平台：B站/抖音/YouTube/TikTok/小红书/微博/快手/本地文件
输出：
- 视频综合理解（文字+视觉融合）
- 自动识别需要视觉辅助的节点并截图分析
示例：
# 分析 B站视频
python3 video_full_pipeline.py "https://www.bilibili.com/video/BVxxx"
# 分析本地视频
python3 video_full_pipeline.py "/path/to/video.mp4"
# 保留中间文件（视频+转录JSON）
python3 video_full_pipeline.py "<url>" --keep-video
💡 什么时候用完整 pipeline vs 两步走？
- 完整 pipeline：想要最终综合理解，懒得分步
- 两步走：转录后还需额外处理，或只想单独转录
🔑 核心原则
所有平台统一两步走
获取下载链接 → curl/yt-dlp 下载 → mlx_whisper 转录
原因：
analyze_video把下载+转录绑在一起，长视频容易超时- 两步走每步都 <10秒，稳定可控
- 每步可单独排错
排错核心原则
当一个工具失败时，不要放弃！找替代方案。
初始化安装（首次使用）
抖音 Playwright Chromium 安装
# 运行 setup.sh 自动安装
cd ~/.openclaw/workspace/skills/video-download-transcribe/douyin-mcp/
./setup.sh
setup.sh 会：
- 检测系统环境
- 查找或安装 Chromium（使用国内 npmmirror 镜像）
- 设置
DOUYIN_CHROMIUM_PATH环境变量 - 测试浏览器抓取是否正常
手动安装（如果 setup.sh 失败）：
# 方式 A：用 openclaw-media 的 playwright 安装 chromium
git clone https://github.com/openclaw/openclaw-media ~/openclaw-media 2>/dev/null || true
PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright \
~/openclaw-media/.venv/bin/playwright install chromium
# 方式 B：自行安装 playwright
pip install playwright
PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright playwright install chromium
环境变量（运行 AI 助手前设置）：
export DOUYIN_CHROMIUM_PATH="$HOME/Library/Caches/ms-playwright/chromium-1105/chrome-mac/Chromium.app/Contents/MacOS/Chromium"
工作流程（统一两步走）
第一步：获取下载链接
# ========== 抖音 ==========
# 方式 A：douyin-analyzer 浏览器抓取（免费，需 Chromium）
mcporter call douyin-analyzer.get_douyin_download_link share_link:"https://v.douyin.com/xxx/"
# 方式 B：tikhub-douyin 获取实时 CDN 地址（更可靠，需 API Key）
mcporter call tikhub-douyin.douyin_web_fetch_video_high_quality_play_url share_url:"https://v.douyin.com/xxx/"
# ========== B站/YouTube/其他平台 ==========
# 用 yt-dlp 直接下载（会自动处理重定向和 Cookie）
yt-dlp -o "/tmp/video.mp4" "https://www.bilibili.com/video/BVxxx"
# ========== TikTok/小红书/微博/快手 ==========
# tikhub-douyin 获取下载链接
mcporter call tikhub-douyin.douyin_web_fetch_one_video_by_share_url share_url:"<链接>"
第二步：下载 + 转录
# 用 curl 下载（抖音/TikTok 获取的 CDN 地址）
curl -L -o /tmp/video.mp4 "https://cdn.example.com/video.mp4"
# 转录（本地 mlx_whisper）
python3 << 'PYEOF'
import mlx_whisper # 首次运行直接 import，不加 HF_HUB_OFFLINE=1
result = mlx_whisper.transcribe(
"/tmp/video.mp4",
path_or_hf_repo="mlx-community/whisper-small-mlx",
verbose=True
)
for seg in result.get("segments", []):
print(f"[{seg['start']:.1f}s - {seg['end']:.1f}s] {seg['text']}")
PYEOF
### 长视频（≥5分钟，后台转录）
```bash
# 用 analyze_video 获取 transcript_id（后台转录中）
mcporter call douyin-analyzer.analyze_video url:"https://..." --timeout 300000
# 等待 1-2 分钟后获取结果
mcporter call douyin-analyzer.get_transcript transcript_id:"xxx"
MCP 工具
douyin-analyzer（本地进程，免费）
# 获取无水印下载链接（浏览器抓取）
mcporter call douyin-analyzer.get_douyin_download_link share_link:"https://v.douyin.com/xxx/"
# 解析视频基本信息
mcporter call douyin-analyzer.parse_douyin_video_info share_link:"https://v.douyin.com/xxx/"
# 通用分析（仅用于获取 transcript_id，后台转录）
mcporter call douyin-analyzer.analyze_video url:"https://..." --timeout 300000
# 获取长视频后台转录结果
mcporter call douyin-analyzer.get_transcript transcript_id:"xxx"
# 检索转录内容
mcporter call douyin-analyzer.query_transcript transcript_id:"xxx" query:"关键词" top_k:3
返回结构（get_douyin_download_link）：
{
"video_id": "xxx",
"download_url": "https://www.iesdouyin.com/aweme/v1/play/?video_id=xxx",
"share_link": "https://v.douyin.com/xxx/"
}
⚠️
download_url是iesdouyin.com重定向 URL，有时效性，建议立即使用。
tikhub-douyin（远程服务，需认证）
# 获取视频信息+播放链接（所有平台通用）
mcporter call tikhub-douyin.douyin_web_fetch_one_video_by_share_url share_url:"<链接>"
# 获取最高画质 CDN 地址（推荐，最可靠）
mcporter call tikhub-douyin.douyin_web_fetch_video_high_quality_play_url share_url:"<链接>"
返回字段：
{
"data": {
"original_video_url": "https://cdn.example.com/..."
}
}
❗️ 排错流程
1. 工具返回 error/失败
↓
2. 抖音：换一个 MCP（douyin-analyzer ↔ tikhub-douyin）
B站/YouTube：检查 yt-dlp 是否支持
TikTok/其他：检查 tikhub-douyin 是否可用
↓
3. 抖音：检查 Chromium 是否安装 + DOUYIN_CHROMIUM_PATH 是否设置
↓
4. 如果都失败 → 找图文/文字版内容
常见问题
| 问题 | 原因 | 解决 |
|---|---|---|
download_url 为空 | Playwright Chromium 未安装 | 运行 setup.sh 或手动安装 |
DOUYIN_CHROMIUM_PATH 警告 | 环境变量未设置 | 设置 export DOUYIN_CHROMIUM_PATH=... |
| curl 下载失败 | 抖音 URL 已过期 | 改用 TikHub 获取实时 CDN |
| TikHub 返回 401 | API 认证失败 | 检查 mcporter.json 的 TikHub Token |
| yt-dlp 下载失败（B站） | Cookie/地区限制 | 加代理或用 TikHub |
analyze_video 超时 | 视频较大 | 改用两步走 |
Chromium 安装（国内镜像）
# 检查是否已安装
ls ~/Library/Caches/ms-playwright/
# 国内镜像安装
PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright \
~/openclaw-media/.venv/bin/playwright install chromium
本地转录（mlx_whisper）
import os
# os.environ["HF_HUB_OFFLINE"] = "1" # 首次运行不能加！需联网下载模型
import mlx_whisper
result = mlx_whisper.transcribe(
"/path/to/video.mp4",
path_or_hf_repo="mlx-community/whisper-small-mlx",
verbose=True
)
for seg in result.get("segments", []):
print(f"[{seg['start']:.1f}s - {seg['end']:.1f}s] {seg['text']}")
推荐 Whisper 模型
| 模型 | 参数量 | 速度 | 精度 |
|---|---|---|---|
| whisper-small-mlx | 244M | 快 | 中等 |
| whisper-base | 74M | 中 | 中 |
| whisper-large-v3-turbo | 809M | 慢 | 高 |
踩坑记录
2026-04-08 抖音下载修复
问题：douyin-analyzer 无法获取下载链接
排查过程：
- 官方 API Cookie 失效（
tt_webid=xxx是假的） - 第三方 API (
liuxingw.com) 返回 HTML 而非 JSON，已失效 - TikHub API 需要认证，公共接口返回 401
- Playwright Chromium 未安装（网络问题导致安装超时）
- Chromium 版本不匹配（1.58 需要 chromium-1208，镜像只有 1105）
- subprocess 中的 chromium 路径变量无法传递到代码字符串
iesdouyin.com重定向 URL 有时效性
最终解决方案：
- 使用
openclaw-media的 playwright 1.42.0（chromium-1105） - 在 subprocess 代码字符串中硬编码 chromium 路径
- 用
DOUYIN_CHROMIUM_PATH环境变量配置路径 - 两步走替代
analyze_video（下载+转录分离）
教训：
- 当工具失败时，列出所有 MCP 找替代方案
- MCP 内部变量无法传递到 subprocess 字符串代码
analyze_video把下载+转录绑在一起容易超时，两步走更稳定- TikHub 返回
original_video_url是真实 CDN 地址，比iesdouyin.com重定向 URL 更可靠 - f-string 中的
{{会先被外层 f-string 处理，需用dict()代替字典字面量
2026-04-19 mlx_whisper 模型未缓存 / 转录失败
问题：mlx_whisper 转录时报 LocalEntryNotFoundError，模型从未下载
排查过程：
HF_HUB_OFFLINE=1阻止了首次下载（HuggingFace Hub 请求被拦截）- 网络不通 huggingface.co（Mac mini 无代理）
- 配置代理后首次运行仍失败（
HF_HUB_OFFLINE=1在代码里被设置） - 去掉
HF_HUB_OFFLINE=1后成功下载模型并转录
根因：
HF_HUB_OFFLINE=1是为了防止 import 时意外联网，但 mlx_whisper 首次运行需要联网下载模型- 首次运行后模型会缓存到
~/.cache/huggingface/hub/，之后加HF_HUB_OFFLINE=1才能正常工作
正确用法：
# 首次运行（需要网络，下载模型）
import mlx_whisper
result = mlx_whisper.transcribe("/path/video.mp4", path_or_hf_repo="mlx-community/whisper-base-mlx")
# 后续运行（离线模式，加回 HF_HUB_OFFLINE=1）
import os
os.environ["HF_HUB_OFFLINE"] = "1" # 放 import 之前
import mlx_whisper
result = mlx_whisper.transcribe("/path/video.mp4", ...)
教训：
- mlx_whisper 模型（mlx-community/whisper-xxx）必须联网下载一次，之后才能离线使用
- 已在代码中全局设置
HF_HUB_OFFLINE=1的环境会阻止首次下载，需临时去掉 - 建议：mlx_whisper 的首次转录不要设置
HF_HUB_OFFLINE=1
🖼️ 视觉增强理解（可选升级）
核心思路
视频转录只能获取音频信息，但很多内容必须看画面才能理解：
- 图表/数据可视化（说话说"如图所示"但没说具体数值）
- 代码演示（没说具体代码，但画面在展示）
- 文字内容（幻灯片、界面、文档）
- 动画/过渡效果
- 模糊指代（"这里"、"它"、"那样"）
视觉增强 pipeline：
- 智能检测 — 分析转录文本，找出"需要视觉辅助"的节点
- 精准截帧 — 在关键时间点用 ffmpeg 截取视频帧
- 图片理解 — MiniMax AI 分析截帧内容
- 融合输出 — 文字 + 视觉合并 → 最终综合理解
使用方法
# 直接传入视频路径 + 转录结果（JSON格式）
python3 ~/.openclaw/workspace/skills/video-download-transcribe/video_visual_understanding.py \
/tmp/video.mp4 \
/tmp/transcript.json
# 或者在转录完成后，将 segments 作为 JSON 传入
python3 ~/.openclaw/workspace/skills/video-download-transcribe/video_visual_understanding.py \
/tmp/video.mp4 \
'{"segments": [{"start": 0.0, "end": 5.0, "text": "今天给大家介绍..."}]}'
工作原理详解
1. 视觉需求检测（analyze_transcript_for_visual_needs）
两种模式并行：
LLM 模式（优先）：发送完整转录给 LLM，让它找出需要视觉辅助的节点，输出结构化 JSON。
规则模式（fallback）：基于关键词和启发式规则检测：
| 视觉类型 | 触发关键词 | 置信度 |
|---|---|---|
| chart | 图、表、图表、曲线、数据、趋势 | 0.65 |
| code | 代码、terminal、命令行 | 0.65 |
| text_display | 屏幕上、显示、打印、console | 0.65 |
| demo | 演示、操作、点击、运行、效果 | 0.65 |
| diagram | 结构、框架、流程、architecture | 0.65 |
| animation | 动画、GIF、过渡、转场 | 0.65 |
| unclear_reference | 这个/那/它/当时（密集出现+短文本） | 0.70 |
去重策略：相同 visual_type 在 5 秒内只保留一个。
2. 精准截帧（extract_frames_at_times）
# 时间点 = 段落开始 + 持续时间 × 0.6
# 原因：说话提到视觉内容时，画面已经展示了 一段时间
mid_time = start + duration * 0.6
ffmpeg -y -ss 12.5 -i video.mp4 -vframes 1 -q:v 2 frame.jpg
-ss 12.5：从 12.5 秒开始-vframes 1：只取一帧-q:v 2：JPEG 质量（1=最高，2=高，3=普通）
3. MiniMax 图片理解（call_minimax_image）
每种视觉类型使用专用 prompt：
| visual_type | MiniMax prompt 策略 |
|---|---|
| chart | "详细描述图表内容：标题、坐标轴、数据、趋势" |
| code | "描述代码内容：语言、关键代码行、输出、错误" |
| text_display | "提取屏幕上所有可见文字：界面、按钮、输入框" |
| demo | "描述演示内容：界面状态、操作步骤、可见结果" |
| diagram | "描述图示结构：标签、箭头、连接关系" |
| unclear_reference | "描述画面最突出内容，特别是可能被模糊指代的部分" |
4. 融合输出（build_visual_understanding_prompt）
最终 prompt 包含：
- 完整转录（音频）
- 每个关键帧的分析（视觉）
- 时间对应关系
发送给 LLM 时要求：
- 融合而非割裂
- 视觉内容给出具体数值/代码/文字
- 音频矛盾时以视觉为准
输出示例
=== 视频综合理解（融合文字+视觉） ===
--- [15s 截帧 | 类型: chart] ---
视觉分析: 这是一张折线图，标题为"2024年Q1-Q4营收趋势"，
X轴是季度，Y轴是营收（亿元），
Q1: 12亿 → Q2: 18亿 → Q3: 25亿 → Q4: 32亿，
整体呈上升趋势，Q3到Q4增速最快。
相关音频: "可以看到这个增长是很快的"
--- [45s 截帧 | 类型: code] ---
视觉分析: Python 代码片段，使用 FastAPI 框架，
关键代码：@app.post("/api/users")
函数返回 JSON: {"id": 1, "name": "Alice"}
相关音频: "这里用装饰器定义一个接口"
[综合分析]
这张视频介绍了公司年度营收，...
...
与原 pipeline 的关系
| 阶段 | 原 pipeline | 视觉增强 pipeline |
|---|---|---|
| 下载 | ✅ | ✅ |
| 转录 | ✅ | ✅ |
| 分析 | ❌ 纯音频 | ✅ 音频 + 视觉融合 |
| 适用场景 | 新闻/播客/纯语音 | 教程/演示/图表/代码/PPT |
限制与注意事项
- 需要 ffmpeg：
brew install ffmpeg - 截帧数量：建议每次不超过 10 个关键节点（MiniMax API 调用成本）
- 时间精度：ffmpeg 截帧可能有 ±0.5 秒误差
- 长视频：建议先截取关键片段再分析，避免处理整个视频