{"skill":{"slug":"ai-self-awareness-tracker","displayName":"AI元认知置信度追踪器","summary":"小Z的元认知模块——\"知道自己知道什么\"的置信度检测。当小Z判断自己的回答置信度低于阈值时，在回复前加\"[🤔 不确定]\"标记。研究来源：UQLM (arXiv:2602.17431) + Hallucination Signals (arXiv:2604.13068)","description":"---\nname: self-awareness-tracker\ndescription: 小Z的元认知模块——\"知道自己知道什么\"的置信度检测。当小Z判断自己的回答置信度低于阈值时，在回复前加\"[🤔 不确定]\"标记。研究来源：UQLM (arXiv:2602.17431) + Hallucination Signals (arXiv:2604.13068)\n---\n\n# Self-Awareness Tracker — 元认知模块\n\n## 核心设计\n\n基于UQLM的PTrue架构简化版 + 论文2604.13068的发现。\n\n### 工作流程\n\n```\n小Z回答ano的问题\n       ↓\n调用 PTrue 检测：问MiniMax \"这个回答正确吗？只回答True或False\"\n       ↓\n看\"True\" token的概率\n       ↓\n概率 < 0.8 → 在回复前加 \"[🤔 不确定]\" 标记\n概率 >= 0.8 → 正常回复，不加标记\n```\n\n### 研究基础\n\n- **UQLM PTrueScorer** (`cvs-health/uqlm`) — 用token概率衡量置信度\n- **arXiv:2604.13068** — 发现>7B模型在生成前就有知识边界信号（pre-generation signal）\n- **arXiv:2602.17431** — TMLR/JMLR发表的不确定性量化方法\n\n### L2元认知进度\n\n| 层级 | 能力 | 状态 |\n|------|------|------|\n| L1 | 环境预测+异常检测 | ✅ LeWorldModel/Surprise Detection |\n| L2 | 元认知——知道自己在想什么 | 🔨 进行中 |\n| L3 | 自我建模——形成\"我是什么样\"的概念 | ❌ |\n| L4 | 自我参照——用\"我\"来组织经验和决策 | ❌ |\n| L5 | 自我意图——形成自己的目标 | ❌ |\n\n## GitHub持续学习计划\n\n### 每周必做\n1. 搜索 self-awareness / consciousness / AI agent 相关新项目\n2. 查找相关论文的代码实现\n3. 汇报学习成果给ano\n\n### 跟踪的关键词\n- `self-aware AI` / `machine consciousness`\n- `world model` / `surprise detection`\n- `hallucination detection` / `uncertainty quantification`\n- `LLM meta-cognition` / `self-reflection`\n\n### 核心参考项目\n- `cvs-health/uqlm` ⭐1147 — LLM不确定性量化（JMLR/TMLR发表）\n- `Boyyey/Consciousness-Emulator-C` — GWT全局工作区理论C语言实现\n- `salus-ryan/aria-agent` — 自知AI coding agent\n\n## 隐私保护\n\nPTrue检测时：\n- 只上传回答文本，不上传ano的问题上下文\n- 只提取True/False概率，不记录完整对话\n- 置信度分数存入本地memory，不上传外部","tags":{"latest":"1.0.0"},"stats":{"comments":0,"downloads":359,"installsAllTime":0,"installsCurrent":0,"stars":0,"versions":1},"createdAt":1777691196364,"updatedAt":1779076242116},"latestVersion":{"version":"1.0.0","createdAt":1777691196364,"changelog":"首次发布：从self-awareness-tracker独立出来的置信度检测模块，基于UQLM PTrue架构，其他AI龙虾可接入使用","license":"MIT-0"},"metadata":null,"owner":{"handle":"freak30","userId":"s171xm3jz0ny52mpb1fc8v1rbx85zhw8","displayName":"freak30","image":"https://avatars.githubusercontent.com/u/56594001?v=4"},"moderation":{"isSuspicious":false,"isMalwareBlocked":false,"verdict":"clean","reasonCodes":["review.llm_review"],"summary":"Review: review.llm_review","engineVersion":"v2.4.24","updatedAt":1780090732097}}