bitai-hub/BITAI-OaK-Self

BITAI OaK-Self：越用越聪明的 AI，你只需要双击打开

---

理论来源

本产品基于 Richard Sutton（强化学习之父）在 RLC 2025 会议上提出的 OaK 架构。

Sutton 在演讲中指出：当前 AI 最大的问题是"部署后不再学习"，并提出了一个名为 OaK（Options + Knowledge） 的架构蓝图——所有组件都应该能在运行时持续学习，智能体应该从每次交互中积累知识。

"通往强人工智能的必经之路是强化学习这类经验性方法，而非大语言模型等非经验性路径。大语言模型几乎所有的智能都在设计时完成，一旦部署就不再学习。而我所倡导的理念恰恰相反——所有重要的事情都应在运行时发生。" — Richard Sutton，RLC 2025 会议演讲

OaK-Self 是 Sutton 这一理念的工程化实现——将"运行时持续学习"从理论构想变成了一个双击就能用的桌面工具。

核心论文

来源	贡献
Sutton, "OaK Architecture", RLC 2025	提出 FC-STOMP 框架：Feature Construction → SubTask → Option → Model → Planning
Sutton, "The Bitter Lesson", 2019	指出随计算扩展的方法终将胜出，运行时学习优于设计时预设
Sutton & Barto, "Reinforcement Learning: An Introduction", 2018	强化学习理论基础，奖励假说
Sutton, "The Reward Hypothesis", 2004	所有目标可被理解为标量奖励信号的期望值最大化

OaK 原始论文中的五个核心步骤与 OaK-Self 的对应

OaK 论文步骤	含义	OaK-Self 中的实现
Feature Construction	从经验中发现有用特征	自动从问题中提取概念并分类
SubTask posing	自主提出待解决的子问题	自动评分发现不足 → 创建教训作为子问题
learning an Option	学习解决子问题的策略	教训中的"改进"方向 = 解决方案
learning a Model	学习策略的预期效果	记录每条教训的命中率和评分趋势
Planning	利用模型进行规划	检索记忆时优先匹配命中率高的教训

与原始论文的区别

维度	Sutton 的 OaK 构想	OaK-Self
定位	学术研究纲领，部分组件仍是开放问题	工程化产品，可立即使用
学习方式	在线强化学习（在线更新权重）	记忆检索 + prompt 注入 + 可选 LoRA 固化
模型要求	需要专门的持续学习算法	兼容任意现成的 LLM
用户门槛	需要强化学习专业知识	双击即用，零配置
特征构建	自动生成新特征	从问题分词提取 + 关键词分类

---

这是一个什么产品？

OaK-Self 是一个会自我进化的 AI 助手。它和普通 AI 的根本区别在于：

普通 AI：训练一次，终身不变。今天答错的问题，明天还会答错。 OaK-Self：每次回答都是学习机会。今天答错的问题，明天就会注意。

它不是一个需要你配置的复杂系统，而是一个双击就能用、越用越聪明的工具。

---

快速开始

解压后得到：

oak-self-v1/
├── start.bat            ← 双击这个启动（推荐）
├── oak-self.exe         ← 也可以直接双击这个
├── oak-base.gguf        ← AI 模型
└── data/                ← 你的数据（自动创建）

双击 start.bat → 浏览器自动打开 http://127.0.0.1:46787/ → 开始用。

---

功能详解与适用领域

💬 单题提问

功能说明 输入一个问题，AI 会经历完整的"查记忆→回答→自评→学习"四步流程。每一次提问，都在让系统进步。

工作流程

你提问 → AI 检索过去学到的相关教训
       → 带着记忆回答
       → 给自己打分（1-5 分）
       → 如果分数低，自动记住教训
       → 下次遇到类似问题，自动参考

适用领域

领域	场景	为什么适合
📚 个人学习	每天问编程/数学/语言问题	系统会记住你常犯的错误，越答越准
🎓 教育培训	学生问专业问题	系统积累该专业的常见问题库，新生直接受益
🏢 企业知识库	内部技术问答、政策解读	系统学习公司特有的术语和规范
⚖️ 法律咨询	合同条款解读、法规查询	系统记住常见合同陷阱，每次自动提醒
💰 金融分析	市场趋势解读、投资分析	系统学会多维度分析，避免单一看法
🏥 医疗咨询	症状解读、用药建议辅助	系统积累病例模式，辅助判断（非诊断）
🔧 技术支持	产品使用问题、故障排除	系统积累常见问题的解决路径
💻 编程开发	代码调试、架构设计咨询	系统学会你的代码风格和常见错误模式

示例效果

第 1 次："Go 的 goroutine 和 thread 有什么区别？"
  → 评分 3/5，AI 觉得回答太理论

第 2 次："Python 的协程和线程有什么区别？"
  → AI 想起上次教训，主动加了代码例子
  → 评分 4/5 ✅

第 3 次："JavaScript 的 async/await 怎么工作的？"
  → AI 已经知道"要提供代码例子"
  → 评分 4.5/5 ✅✅

---

📦 批量处理

功能说明 一次性处理大量问题（支持 100、500、1000 题）。每个问题都会经历完整的"回答→评分→学习"流程，全部自动完成。

支持的输入方式

方式	操作方法	适用场景
文本框粘贴	把问题复制粘贴到文本框，每行一个	几十到几百题
上传 .txt 文件	点击上传按钮，选择文件	几百到上千题
JSON 格式	通过 API 提交 {"questions":[...]}	程序自动调用

实时进度显示

[████████░░░░░░░░░░░░] 47%
等待：大约 2 分钟完成

进度面板显示：

• 已完成 / 总数
• 进度百分比
• 预计剩余时间（根据当前速度估算）
• 错误数

适用领域

领域	场景	为什么适合
📝 内容审核	批量审核 1000 条用户评论	AI 逐条判断，同时学会你的审核标准
🏛️ 文档分析	分析 500 份合同条款	批量处理，系统自动积累合同分析经验
🎓 题库解答	生成 1000 道练习题的答案	边答边学，后面的回答质量高于前面
🔬 数据标注辅助	对大量文本进行分类标注	先做一批，系统学会后越标越准
🌐 内容翻译	批量翻译文章	系统记住专业术语的译法
📊 市场调研	分析大量用户反馈	自动归类常见问题类型
🏭 质检报告分析	分析 500 份质检记录	积累行业质量问题的模式
⚕️ 病历分析	分析脱敏病历数据	积累症状-诊断的经验模式

示例

你有一个 questions.txt 文件，里面有 1000 个关于"以太坊"的问题：
Q1: 什么是以太坊？
Q2: 以太坊和比特币有什么区别？
...

上传 → 点击"开始批量处理"

结果：
  ✅ 1000 题全部处理完毕
  ✅ 平均用时 23 秒/题
  ✅ 评分：3.2 → 3.9（系统在后半段明显进步）
  ✅ 学到的教训：37 条
  ✅ 新发现概念：42 个

---

📚 记忆库

功能说明 显示系统从使用中积累的所有经验教训。每条教训包含：来自什么问题的、出过什么错、怎么改进、命中过多少次。

每条记忆的内容

📝 来自问题："BTC 减半会涨吗"    ← 从哪次交互学到的
   命中次数：7 次               ← 这条教训被用了多少次（越高越有用）
   创建时间：2026-07-24        ← 什么时候学的

   问题：价格预测回答缺少需求面分析  ← 当时出了什么问题
   改进：同时分析供给和需求两面     ← 怎么改善
   模式：预测类问题需要区分短期和长期效应  ← 推广到同类问题的通用规律
   
   关键词：价格 预测 供需 btc     ← 触发检索的关键词

作用

作用	说明
🔍 回顾系统成长轨迹	看到 AI 从哪些错误中学到了什么
📋 手动审核教训质量	如有不恰当的教训，未来可编辑/删除
📊 分析高频教训	命中次数高的说明是用户最常关注的问题类型
🧹 发现知识盲区	如果某个领域教训特别多，说明这个领域的问题比较难

适用领域

领域	应用方式
📖 个人学习记录	用户可以看到自己在哪些问题上常犯错，AI 都记住了
🧑‍🏫 教学辅助	老师可以看到学生对哪些概念最困惑，针对性调整教学
🏢 企业知识管理	管理者可以看到团队常问的问题类型和 AI 的改进方向
🔬 研究分析	研究人员可以分析 AI 的学习路径和模式形成过程

---

📈 进化曲线

功能说明 每次回答的评分被记录成一条趋势线，直观展示系统的进步过程。

看懂曲线

评分（1-5）
  5 │
  4 │              ████████ 4.0
  3 │     ██████ 3.5
  2 │████ 3.0
  1 │
    └───────────────────────── 回答次数
       #1   #5   #10   #15   #20

• 每一条柱子 = 一次回答的评分
• 柱子越高 = 这次回答质量越好
• 整体趋势 = 系统是否在进步（向上=进步，持平=稳定，向下=要检查）

统计指标

指标	含义	理想值
平均评分	所有回答的平均分	≥ 3.5 表示系统表现良好
最高评分	表现最好的一次	接近 5 分
记忆命中率	有多少比例的回答使用了记忆	≥ 50% 表示记忆系统活跃
记忆教训数	积累的经验教训总数	越多表示学习越活跃
世界概念数	系统从问题中提取的概念	反映用户覆盖的知识面

适用领域

领域	应用方式
🏢 企业部署	管理层可以通过趋势评估 AI 的使用效果和价值
🎓 教育场景	老师可以评估 AI 辅助教学的质量变化
🔬 效果评估	对比不同配置或不同基座模型的效果
📊 周期性报告	每周查看曲线，判断系统是否在持续进步

---

🌐 世界模型

功能说明 系统自动从你的问题中提取"概念"，并记录它们之间的关系。

概念提取示例

如果你问过这些问题：
  "区块链是怎么工作的？"
  "智能合约安全吗？"
  "DeFi 有哪些风险？"
  
系统自动提取概念：
  🔧 区块链 (technical)
  🔧 智能 (technical)  
  🔧 合约 (technical)
  🔧 DeFi (technical)

概念分类

类别	图标	示例	含义
技术类	🔧	blockchain, AI, 算法, 模型	科技/编程/数学相关
经济类	💰	市场, 价格, 成本, 投资	金融/商业相关
社会类	👥	用户, 治理, 社区, 团队	管理/人文相关
抽象类	🧠	效率, 安全, 价值, 风险	跨领域通用概念

作用的领域

领域	世界模型如何帮助
🎯 个性化	系统知道用户关注什么领域，回答更精准
🔍 检索优化	概念标签帮助匹配更相关的记忆
📊 知识图谱	长期使用后，可以生成用户的知识覆盖面热力图
🔄 迁移学习	当用户从领域 A 转向领域 B，系统能感知到变化

---

高级功能：固化模型

什么时候需要？

基础模式通过"在 prompt 里加记忆"让 AI 变聪明，但 prompt 有长度限制。当积累了 50 条以上教训 后，可以考虑固化。

训练操作

双击 train.bat（需要电脑有 NVIDIA 显卡），约 3 分钟：

1. 自动检查 Python 环境
2. 读取 data/self_state.json 的经验
3. 训练 LoRA 适配器
4. 输出 oak-lora-v1/

固化后的变化

固化前：AI 靠 prompt 注入回忆教训
        prompt 越来越长（最多注入 5 条）

固化后：经验写进了模型权重
        不再需要 prompt 注入
        模型天生就会注意这些点
        同时继续积累新经验

---

功能全景图

┌─────────────────────────────────────────────────────────┐
│                    OaK-Self 功能全景                       │
├─────────────┬──────────────────┬─────────────────────────┤
│   功能       │    做什么         │    适合谁用              │
├─────────────┼──────────────────┼─────────────────────────┤
│ 💬 单题提问  │ 每次提问都学习     │ 日常使用、个人学习       │
│ 📦 批量处理  │ 一次处理 1000 题   │ 企业批量文档、题库解答    │
│ 📚 记忆库    │ 查看学到的教训      │ 了解系统成长、审核质量    │
│ 📈 进化曲线  │ 看到进步趋势       │ 评估效果、做报告         │
│ 🌐 世界模型  │ 积累知识概念       │ 个性化、知识图谱         │
│ 🔧 LoRA 固化 │ 永久保存到模型     │ 进阶用户、团队部署       │
└─────────────┴──────────────────┴─────────────────────────┘

---

常见问题

Q：需要联网吗？ 不需要。全部在本地运行。

Q：需要什么配置？ 最低 4GB 内存（用 0.5B 小模型），推荐 8GB+ 或 NVIDIA 显卡。

Q：需要安装 Python 吗？ 基本使用不需要。只有固化模型时才需要（双击 train.bat）。

Q：数据和隐私安全吗？ 所有数据存储在本地 data/self_state.json，不会上传到任何地方。

Q：批量 1000 题要多久？ 小模型（0.5B）CPU 约 30-60 分钟，GPU 约 10-20 分钟。

Q：换了电脑，记忆怎么迁移？ 复制 data/self_state.json 到新电脑即可。

---

一句话总结

双击打开，正常使用——它会在每次回答中自动学习、持续进步。

license: apache-2.0