微信公众号文章采集器
通过 Browser Harness 自动采集微信公众号文章，支持去重、全文下载、本地存储。
功能特性
- ✅ 自动连接已登录的微信公众号后台
- ✅ 提取原创文章列表（标题、日期、链接）
- ✅ 智能去重（对比本地已收录文章）
- ✅ 批量下载文章全文
- ✅ 保存为 Markdown 格式
- ✅ 支持翻页获取所有文章
前置条件
-
Browser Harness 已安装（必需依赖）
-
微信公众号后台已登录
- 在 Chrome 中打开
https://mp.weixin.qq.com
- 登录你的公众号账号
- 保持浏览器打开
使用方法
1. 快速采集（一键完成）
cd ~/.openclaw/workspace/skills/wechat-article-collector
python3 scripts/collect_articles.py
脚本会自动：
- 连接到微信公众号后台
- 进入原创文章页面
- 提取所有文章列表
- 对比本地知识库去重
- 下载新文章全文
- 保存到
~/.openclaw/workspace/knowledge/wechat/gh_<公众号ID>/
2. 分步执行
步骤 1：提取文章列表
python3 scripts/extract_article_list.py
输出：/tmp/all_articles.json
步骤 2：去重并下载
python3 scripts/download_new_articles.py
读取 /tmp/all_articles.json，对比本地知识库，下载新文章。
配置
编辑 config.json 自定义设置：
{
"save_dir": "~/.openclaw/workspace/knowledge/wechat/gh_511119f160d8",
"mp_url": "https://mp.weixin.qq.com/cgi-bin/appmsgcopyright?action=orignal&type=1&token=YOUR_TOKEN",
"sleep_between_downloads": 1.5
}
文件结构
wechat-article-collector/
├── SKILL.md # 本文件
├── config.json # 配置文件
├── scripts/
│ ├── collect_articles.py # 一键采集脚本
│ ├── extract_article_list.py # 提取文章列表
│ ├── download_new_articles.py # 下载新文章
│ └── utils.py # 工具函数
└── README.md # 详细文档
输出格式
每篇文章保存为独立的 Markdown 文件：
YYYY-MM-DD_文章标题.md
文件内容：
# 文章标题
**发布日期**: YYYY-MM-DD
**原文链接**: http://mp.weixin.qq.com/s/xxxxx
---
文章正文内容...
故障排查
问题 1：Browser Harness 连接失败
症状：daemon alive — run browser-harness --setup to attach
解决：
browser-harness --doctor
browser-harness --setup
问题 2：提取不到文章列表
症状：Total: 0 articles
原因：未登录或未进入原创文章页面
解决：
- 在 Chrome 中手动打开
https://mp.weixin.qq.com
- 登录公众号
- 点击左侧菜单"原创管理" → "原创声明"
- 重新运行脚本
问题 3：文章内容提取失败
症状：❌ 提取失败 (len=0)
原因：页面加载慢或选择器不匹配
解决：
- 增加
time.sleep() 等待时间
- 检查微信公众号文章页面结构是否变化
- 更新选择器：
#js_content 或 .rich_media_content
高级用法
自定义保存目录
python3 scripts/collect_articles.py --save-dir ~/Documents/公众号备份
只提取列表不下载
python3 scripts/extract_article_list.py --output /tmp/my_articles.json
指定公众号 ID
python3 scripts/collect_articles.py --account-id gh_abc123def456
依赖
- Browser Harness: 浏览器自动化
- Python 3.10+: 脚本运行环境
- Chrome: 已登录微信公众号后台
注意事项
- 登录态：必须在 Chrome 中保持微信公众号后台登录
- 速率限制：下载间隔建议 ≥1.5 秒，避免触发反爬
- 文件命名：自动过滤特殊字符，避免文件系统冲突
- 去重逻辑：基于文件名模糊匹配，建议定期清理重复文件
扩展应用场景
基于 Browser Harness 的浏览器自动化能力，本 skill 可扩展到更多场景：
1. 内容采集类
- 社交媒体：微博、小红书、知乎专栏、掘金文章
- 新闻资讯：RSS 替代、新闻聚合、行业动态
- 电商数据：价格监控、商品评论、销量趋势
- 招聘信息：Boss、拉勾、猎聘职位聚合
2. 自动化操作类
- 批量操作：回复评论、发布动态、点赞转发
- 表单填写：报销申请、问卷调查、重复性表单
- 账号管理：多平台内容同步、数据备份
3. 监控告警类
- 网页变化：价格、库存、状态监控
- 关键词监控：品牌舆情、竞品动态
- 系统状态：后台面板、服务器监控
4. 数据导出类
- 财务数据：发票下载、订单导出、账单备份
- 业务数据：客户信息、交易记录、报表导出
如何扩展
- 修改选择器配置：编辑
config.json 中的 profiles
- 自定义提取逻辑：修改
scripts/utils.py 中的提取函数
- 添加新功能：在
scripts/ 目录下创建新脚本
详见 USAGE.md 中的自定义配置教程。
快速扩展示例
支持其他公众号
修改 config.json 中的 mp_url 和 save_dir，可采集多个公众号。
定时采集
添加 cron 任务：
# 每天凌晨 2 点采集
0 2 * * * cd ~/.openclaw/workspace/skills/wechat-article-collector && python3 scripts/collect_articles.py
导出为其他格式
在 scripts/utils.py 中添加转换函数：
def convert_to_pdf(md_file):
# 使用 pandoc 或其他工具转换
pass
许可
MIT License - 自由使用、修改、分发
贡献
欢迎提交 Issue 和 Pull Request！
作者: ZHAO
版本: 1.0.0
更新日期: 2026-04-22
