第48章 经验学习
第47章已经建立了反馈学习:
反馈能够改变个体未来的认知。
但是,反馈本身只是某一次行为之后得到的结果。
例如:
第一次抓取鸡蛋
↓
发生滑移
↓
调整压力
↓
成功抓取
这只是一次反馈。
真正的问题是:
个体如何把一次次具体发生的事件,从“过去发生过的事情”转化为可以影响未来认知的经验?
这就是经验学习所要解决的问题。
48.1 什么是经验
经验不是简单的记忆。
如果只是保存:
昨天发生了什么
那么它属于记忆。
而如果能够进一步形成:
什么情况下
什么对象
出现什么属性变化
采取什么行为
产生什么结果
那么才开始形成经验。
因此可以定义:
经验是个体从过去事件、行为及其结果中形成的、能够参与未来认知匹配和行为判断的认知结构。
经验的核心不是“发生过”。
而是:
过去发生的事情对未来产生了什么认知意义。
48.2 记忆与经验的区别
这是本章首先需要明确的问题。
记忆:
事件
↓
保存
↓
再次读取
经验:
事件
↓
结果
↓
关系提取
↓
形成规律
↓
影响未来认知
例如:
一个人曾经拿过一个玻璃杯。
记忆可能保存:
时间:昨天
对象:玻璃杯
行为:拿起
结果:没有掉落
而经验可能形成:
玻璃杯较脆弱
↓
握持需要稳定
↓
不要施加过大的局部压力
所以:
记忆保存过去,经验解释过去,并影响未来。
48.3 经验来自事件
经验学习的最小单位不是抽象概念,而是具体事件。
一个事件可以表示为:
Event
=
Object
+
Attribute
+
State
+
Action
+
Time
+
Environment
+
Result
例如:
对象:
鸡蛋
属性:
重量
硬度
表面摩擦
状态:
静止
行为:
抓取
时间:
当前时刻
结果:
滑移
这形成一个完整事件:
鸡蛋
+
属性
+
当前状态
+
抓取行为
+
滑移结果
经验学习从这些事件中寻找可以重复利用的认知关系。
48.4 从事件到经验
可以建立一个基本过程:
事件
↓
结果
↓
比较
↓
关系发现
↓
重复验证
↓
经验形成
例如第一次:
压力增加
↓
没有明显滑移
第二次:
压力进一步增加
↓
出现滑移
第三次:
压力较低
+
摩擦稳定
↓
成功抓取
系统逐渐发现:
压力变化
+
摩擦状态
↓
滑移风险变化
这就不再只是三个独立事件,而开始形成经验关系。
48.5 经验不是单一数据
一个成熟的经验不能简单表示为:
经验 = “鸡蛋要轻拿”
这种描述对于工程系统来说过于粗糙。
经验应该包含多个组成部分:
Experience
{
Object
Context
Attribute
State
Change
Action
Result
Relation
Risk
Weight
Confidence
}
例如:
Object:
易碎对象
Context:
抓取
Attribute:
压力、摩擦、滑移
Change:
压力增加
Relation:
压力增加 → 滑移风险增加
Result:
对象稳定性下降
Risk:
较高
Confidence:
较高
这样经验才可以真正参与认知计算。
48.6 经验具有条件性
经验不能脱离条件存在。
例如:
“压力越小越安全”
并不一定成立。
如果对象太重:
压力太小
↓
无法保持
↓
对象滑落
因此真正的经验可能是:
在当前对象、当前任务和当前状态下,
保持适当压力可以降低滑移和损伤风险。
也就是说:
经验不是绝对规则,而是带有条件的认知关系。
可以表示为:
Condition
+
Pattern
+
Result
形成:
Experience
48.7 经验与对象有关
同一个行为面对不同对象,经验可能不同。
例如:
对象A:鸡蛋
对象B:橡胶球
对象C:玻璃杯
对象D:金属球
虽然行为都是:
抓取
但经验不同。
鸡蛋:
损伤风险高
橡胶球:
形变较明显
玻璃杯:
破损风险高
金属球:
承受压力能力高
因此:
相同行为
+
不同对象
↓
不同经验
经验必须与对象结构建立关联。
48.8 经验与属性有关
对象只是经验的入口。
真正决定经验内容的,往往是对象属性。
例如:
对象:
鸡蛋
进一步观察:
硬度
重量
摩擦
压力
形变
经验可能形成:
对象易碎
+
压力增加
+
形变增加
↓
损伤风险增加
因此经验实际上是在学习:
Object
+
Attribute
+
Change
+
Result
之间的关系。
48.9 经验与动态变化有关
静态经验只能描述:
对象有什么
动态经验进一步描述:
对象正在发生什么
例如:
压力 ↑
本身并不能确定危险。
但是如果同时观察:
压力 ↑
+
形变 ↑
+
滑移 ↑
那么风险明显增加。
于是经验可以形成:
压力增加
+
形变增加
+
滑移增加
↓
对象损伤风险增加
这与第16章建立的动态关系直接连接。
因此:
经验学习不仅学习对象和属性,也学习属性如何共同变化。
48.10 经验具有时间结构
经验不是脱离时间的。
例如:
t₁:
压力增加
t₂:
形变增加
t₃:
滑移出现
t₄:
对象损伤
经验不是简单的:
压力 + 形变 + 滑移
而可能是:
压力增加
↓
形变增加
↓
滑移出现
↓
损伤风险增加
因此经验可以包含:
Temporal Pattern
也就是:
什么变化先发生,什么变化后发生,以及这些变化之间是否具有稳定的时序关系。
48.11 经验学习与模式发现
当类似事件不断出现时,系统可以寻找重复模式。
例如:
事件1:
压力↑ → 滑移↑
事件2:
压力↑ → 滑移↑
事件3:
压力↑ → 滑移↑
事件4:
压力↑ → 滑移↑
系统可以逐渐形成:
压力增加
↓
滑移风险增加
这就是经验模式。
因此:
Experience Learning
=
Pattern Discovery
+
Pattern Storage
但这里的“模式”不能简单理解为字符串匹配。
它可以是:
属性模式
状态模式
变化模式
时序模式
关系模式
行为结果模式
48.12 重复不是简单复制
经验学习并不是把相同事件复制很多次。
真正重要的是:
重复事件
↓
比较差异
↓
寻找共同结构
例如:
鸡蛋A:
压力较高 → 滑移
鸡蛋B:
压力中等 → 稳定
鸡蛋C:
压力较高 → 滑移
系统需要发现:
并不是所有压力变化都会导致滑移
而是:
特定压力范围
+
特定摩擦状态
+
特定对象属性
↓
滑移风险增加
因此经验学习实际上包含:
共性提取和条件区分。
48.13 经验的强度
不同经验的可靠程度不同。
例如:
只发生过一次
和:
发生过100次
显然不能拥有相同的经验强度。
因此可以定义:
Experience Strength
它可以受到:
发生次数
+
结果一致性
+
反馈强度
+
时间距离
+
当前相似度
等因素影响。
于是:
经验强度高
↓
未来匹配影响大
而:
经验强度低
↓
未来匹配影响小
48.14 经验的置信度
经验强度和经验置信度也应该区分。
例如:
经验:
高压力可能导致滑移
如果只有一次观察:
Confidence = Low
如果经过大量不同对象验证:
Confidence = High
因此:
Experience
├── Strength
└── Confidence
可以分别描述:
这个经验对当前个体有多重要。
以及:
这个经验本身有多可靠。
48.15 经验会衰减
经验并不是永久固定不变的。
如果一个经验长期没有被使用:
长期不使用
↓
相关性下降
如果环境发生变化:
环境变化
↓
旧经验适用性下降
因此可以引入:
Experience Decay
例如:
Experience Strength(t+1)
=
Experience Strength(t)
×
Decay
这里并不要求具体采用某一种数学公式。
理论上更重要的是:
经验应该具有时间性和可更新性。
48.16 新经验可以修正旧经验
经验学习不能只有:
增加经验
还必须允许:
修正经验
例如过去认为:
高压力 → 高风险
后来发现:
在某种特殊对象表面上,
适当提高压力反而能够减少滑移。
于是旧经验需要重新限定:
高压力
+
特定摩擦条件
+
特定对象
↓
风险关系改变
因此:
经验不是不可修改的知识,而是可以随着新反馈持续修正的个体认知结构。
48.17 经验之间可以发生组合
个体并不只拥有一个经验。
例如:
经验A:
玻璃容易破碎
经验B:
握持压力影响稳定
经验C:
手部湿润会降低摩擦
当三个经验同时参与:
玻璃
+
握持
+
湿润
可能形成新的认知:
湿润
↓
摩擦下降
↓
需要改变握持方式
↓
避免过度增加压力
因此经验之间可以发生:
组合
关联
协同
这与前面的属性协同匹配形成对应关系。
48.18 经验参与未来认知匹配
经验学习的最终目的不是保存经验本身。
而是让经验重新进入认知过程。
未来再次出现类似对象:
当前感知
↓
当前对象
↓
当前属性
↓
当前状态
同时:
历史经验
↓
经验匹配
两者共同参与:
当前状态匹配
+
历史经验匹配
↓
新的匹配强度
↓
新的概率
↓
新的认知
因此经验真正进入了第18章建立的:
认知匹配机制。
48.19 经验改变行为选择
经验不仅改变认知,也会改变决策。
例如:
过去:
抓取鸡蛋
↓
压力过高
↓
发生滑移
形成经验:
高压力存在风险
下一次:
发现相似对象
↓
经验被调用
↓
风险概率提高
↓
选择更谨慎的行为
因此:
经验
↓
认知
↓
决策
↓
行为
形成一个完整的因果链。
48.20 经验与个体目标
经验本身不会自动决定行为。
还必须与个体目标结合。
例如:
同一个经验:
“高速移动可能增加对象损伤风险。”
个体A目标:
安全优先
可能选择:
降低速度
个体B目标:
效率优先
可能选择:
保持较高速度
因此:
相同经验
+
不同目标
↓
不同权重
↓
不同认知
↓
不同决策
这与第32章的个体目标形成直接连接。
48.21 经验与个体认知
到这里,可以看到经验并不是个体认知之外的一个独立数据库。
它本身就是个体认知形成的重要组成部分。
可以表示为:
当前感觉
↓
当前元素
↓
当前对象
↓
当前属性
↓
当前状态
↓
历史经验
↓
匹配
↓
权重
↓
概率
↓
个体认知
因此:
个体经验决定了个体如何解释当前世界,而不仅仅决定个体记得什么。
48.22 建立经验学习模型
可以将经验学习正式表示为:
Experience Learning
其输入:
Event
+
Feedback
+
Historical Experience
+
Current Context
经过:
Comparison
↓
Pattern Detection
↓
Relation Extraction
↓
Experience Update
产生:
New Experience
最终:
New Experience
↓
Future Matching
↓
Future Cognition
完整模型:
当前事件
↓
行为
↓
结果
↓
反馈
↓
┌────比较────┐
↓ ↓
历史经验 当前状态
└────┬───────┘
↓
模式发现
↓
关系提取
↓
经验更新
↓
新的经验结构
↓
未来认知匹配
↓
个体认知
48.23 经验学习的工程化表达
进入“理论工程”视角之后,经验可以被抽象成一个认知对象:
Experience
它至少可以包含:
Experience
├── Object
├── Context
├── Attribute
├── State
├── Change
├── Relation
├── Action
├── Result
├── Condition
├── Strength
├── Confidence
└── Time
而经验学习可以成为一个独立的 Method:
LearnExperience()
其逻辑不是:
保存事件
而是:
读取事件
↓
比较历史
↓
发现模式
↓
评估关系
↓
更新经验
↓
保存经验
这样,“经验学习”开始真正进入理论工程体系。
48.24 经验学习与第47章反馈学习的关系
两章之间必须严格区分。
第47章:
反馈学习解决反馈如何改变未来。
第48章:
经验学习解决反馈产生的事件如何形成可重复使用的经验。
关系可以表示为:
行为
↓
反馈
↓
反馈学习
↓
经验学习
↓
经验形成
↓
记忆
↓
未来匹配
进一步:
反馈
↓
“结果发生了什么?”
而经验学习进一步回答:
“为什么会这样?”
“什么条件下会这样?”
“下次遇到类似情况怎么办?”
因此经验学习比单纯反馈响应更进一步。
48.25 本章核心模型
最终,本章可以形成:
过去事件
↓
反馈
↓
结果分析
↓
条件识别
↓
模式发现
↓
关系提取
↓
经验形成
↓
┌───────────┼───────────┐
↓ ↓ ↓
记忆 权重 先验
│ │ │
└───────────┼───────────┘
↓
当前匹配
↓
个体认知
↓
决策
↓
行为
↓
新反馈
↓
新经验
这就形成了一个持续循环:
事件
↓
反馈
↓
经验
↓
认知
↓
行为
↓
反馈
↓
经验更新
48.26 本章结论
本章最终建立一个重要判断:
经验不是过去事件的简单保存,而是个体从过去事件及其结果中提取出的、能够参与未来认知匹配的结构化认知关系。
因此:
记忆 ≠ 经验
更准确地说:
事件
↓
记忆
↓
比较
↓
关系
↓
模式
↓
经验
而经验又重新进入:
经验
↓
匹配
↓
权重
↓
概率
↓
认知
↓
决策
↓
行为
最终形成:
过去的行为结果不会只是停留在过去,而会通过经验进入未来的认知。
这也是个体认知区别于单纯实时感知系统的重要地方。
第48章与下一章的连接
第48章解决:
过去的事件如何形成经验。
第49章将进一步进入更具体的工程问题:
经验形成之后,系统究竟如何利用这些经验改变匹配权重?
也就是从:
经验
↓
“我过去知道什么”
进入:
经验
↓
“我现在应该更加关注什么”
由此进入第49章:匹配权重学习。