第21章 场景认知
21.1 场景认知的定义
第20章将 Cognition 定义为:
人工个体对对象、状态、关系、场景及其变化进行结构化计算,并形成能够驱动后续能力、方法、行为和行动的内部结果。
那么第21章进一步研究:
当人工个体面对一个具体场景时,如何形成对这个场景的认知?
这就是:
Scene Cognition|场景认知
场景认知不是简单地“看见一个场景”。
它是人工个体将当前环境中的:
Scene
↓
Objects
↓
Attributes
↓
Relations
↓
States
↓
Events
↓
Context
↓
Scene Cognition
进行解析、识别、组织和计算的过程。
因此:
Scene
=
Objects
+
Attributes
+
Relations
+
States
+
Events
+
Context
而:
Scene Cognition
=
Computation of Scene Structure
即:
场景认知是人工个体对当前场景结构进行计算后形成的整体认知结果。
21.2 为什么需要场景认知
单独识别一个对象,并不能形成完整的智能。
例如系统识别:
Cup
只能得到:
当前存在一个杯子。
但是,如果场景中同时存在:
Cup
Table
Hand
Person
Water
还需要知道:
Cup
↓
on
↓
Table
以及:
Hand
↓
near
↓
Cup
以及:
Cup
State = Stable
最终才能形成:
Person
+
Hand
+
Cup
+
Table
+
Spatial Relations
+
Current States
↓
Scene Cognition
因此:
对象识别解决“有什么”,场景认知解决“这些东西共同构成了什么情况”。
21.3 场景认知的基本结构
场景认知可以建立如下结构:
Scene Cognition
│
┌───────────────┼───────────────┐
↓ ↓ ↓
Scene Parsing Object Recognition State Recognition
│ │ │
↓ ↓ ↓
Objects Attributes Current States
│ │ │
└───────────────┼───────────────┘
↓
Relation Recognition
↓
Scene Structure
↓
Scene Meaning
其核心处理过程:
Perception
↓
Scene Parsing
↓
Object Recognition
↓
Attribute Recognition
↓
Relation Recognition
↓
State Recognition
↓
Scene Cognition
这不是严格的线性过程。
在实际 ICAI 中,各识别过程可以相互影响:
Object
↔
Attribute
↔
Relation
↔
State
↔
Scene
例如:
Object Type
可能帮助识别属性。
属性又可能帮助判断状态。
状态可能帮助确定关系。
关系又可能反过来帮助确定对象。
因此场景认知实际上是一个结构化递归计算过程。
21.4 场景解析
21.4.1 Scene Parsing 的定义
场景解析是场景认知的第一层。
它回答:
当前场景由哪些结构组成?
输入:
Raw Perception Data
输出:
Scene Elements
例如:
Camera Data
↓
Visual Structure
↓
Candidate Objects
Candidate Regions
Candidate Events
Candidate Relations
场景解析首先不急于判断“这是什么”。
它首先建立:
Where
What
How Many
Which Area
Which Structure
例如:
Scene
├── Region A
├── Region B
├── Object 1
├── Object 2
├── Object 3
└── Event
因此:
场景解析是从连续感知数据中建立场景结构边界的过程。
21.5 场景解析与对象识别
两者并不完全相同。
场景解析:
Scene
↓
发现结构单元
对象识别:
Structure Unit
↓
确定 Object Type
例如:
Perception
↓
发现三个独立实体
↓
Object A
Object B
Object C
然后:
Object A → Cup
Object B → Table
Object C → Hand
所以:
Scene Parsing
↓
Object Candidates
↓
Object Recognition
场景解析建立“场景中有什么结构”。
对象识别确定“这些结构是什么对象”。
21.6 对象识别
21.6.1 Object Recognition
对象识别是场景认知的重要基础。
它回答:
场景中存在什么对象?
例如:
Scene
│
├── Object A → Cup
├── Object B → Table
├── Object C → Person
└── Object D → Door
对象识别并不只是名称匹配。
在 ICAI 中,一个 Object 应该具有结构:
Object
├── Identity
├── Type
├── Attributes
├── Position
├── State
├── Relations
└── History
因此对象识别实际上是在建立:
Object Instance
例如:
Generic Object:
Cup
↓
Current Instance:
Cup#001
进一步:
Cup#001
├── Position
├── Size
├── Material
├── Color
├── State
└── Relations
这样对象才真正进入个体认知空间。
21.7 对象识别不是场景认知
对象识别只能得到:
Cup
Table
Hand
但不能完整回答:
Cup在哪里?
Cup是什么状态?
Cup与谁存在关系?
Cup是否可以操作?
当前场景发生了什么?
因此:
Object Recognition
≠
Scene Cognition
关系是:
Object Recognition
↓
Object Structure
↓
Relation Recognition
↓
State Recognition
↓
Scene Cognition
对象是场景认知的组成单位。
场景认知则是对象、关系、状态等结构的整体计算。
21.8 属性识别
对象被识别以后,还必须进一步识别对象的属性。
例如:
Object
↓
Cup
进一步:
Cup
├── Color = White
├── Material = Ceramic
├── Size = Medium
├── Weight = 300g
└── Position = Table-A
这就是:
Attribute Recognition|属性识别
属性识别回答:
这个对象具有什么特征?
21.9 属性不是对象
必须区分:
Object
和:
Attribute
例如:
Cup
是对象。
而:
Color = White
Material = Ceramic
Temperature = 40℃
Weight = 300g
是属性。
结构:
Object
│
├── Attribute A
├── Attribute B
├── Attribute C
└── Attribute D
因此:
Object
+
Attributes
=
Object Description
但是仍然不足以形成完整场景认知。
还必须加入:
Relations
+
States
21.10 属性的动态性
属性并不一定是永久不变的。
可以分为:
静态属性
Material
Shape
Manufacturer
Type
动态属性
Position
Velocity
Temperature
Battery
Pressure
Distance
因此:
Object
↓
Static Attributes
+
Dynamic Attributes
动态属性变化可能直接导致状态变化:
Temperature = 20
↓
Temperature = 40
↓
State Change
所以:
Attribute Change
↓
State Change
↓
Scene Change
↓
Re-Cognition
这与第20章的连续认知机制直接连接。
21.11 关系识别
对象和属性仍然不足以描述场景。
必须进一步识别:
对象之间是什么关系?
例如:
Cup
↓
on
↓
Table
或者:
Hand
↓
near
↓
Cup
或者:
Person
↓
inside
↓
Room
这就是:
Relation Recognition|关系识别
21.12 关系是场景结构的核心
可以将场景表示为:
Object A
│
│ Relation
↓
Object B
例如:
Cup
│
├── on → Table
├── near → Hand
└── contains → Water
这样:
Objects
+
Relations
就形成了一个:
Scene Graph|场景图
例如:
Person
│
near
↓
Table
/ \
on near
↓ ↓
Cup Hand
场景认知实际上可以看作:
对 Scene Graph 的持续计算。
21.13 关系的类型
关系可以包括:
Spatial Relation
空间关系
Temporal Relation
时间关系
Physical Relation
物理关系
Functional Relation
功能关系
Causal Relation
因果关系
Ownership Relation
归属关系
Containment Relation
包含关系
Interaction Relation
交互关系
例如:
Cup
↓
on
↓
Table
属于空间关系。
Hand
↓
holding
↓
Cup
属于交互关系。
Heat
↓
causes
↓
Temperature Increase
属于因果关系。
21.14 状态识别
对象、属性和关系确定以后,还必须确定:
这些对象当前处于什么状态?
这就是:
State Recognition|状态识别
例如:
Cup
Position = Table
Temperature = 80℃
Orientation = Tilted
系统进一步计算:
Cup State
=
Hot
+
Tilted
+
Stable
因此:
Attributes
+
Relations
+
Temporal Information
+
Rules
↓
State Recognition
21.15 状态与属性的区别
属性:
Temperature = 80℃
状态:
Hot
属性描述对象具有的某个变量。
状态描述多个属性经过计算后形成的当前条件。
因此:
Attribute
↓
Value
↓
State Calculation
↓
State
例如:
Temperature = 80℃
+
Threshold = 60℃
↓
Hot State
再例如:
Velocity = 0
+
Position = Table
+
Support = Table
↓
Stable State
所以:
状态是对属性、关系和环境条件进行计算后的结构化结果。
21.16 状态不是静态标签
状态具有时间性。
State₁
↓
Event
↓
State₂
↓
Event
↓
State₃
例如:
Cup
Stable
↓
Hand Approaches
↓
Contact
↓
Held
↓
Moved
↓
Released
↓
Stable
因此:
State(t)
→
State(t+1)
构成状态变化。
场景认知必须能够识别:
Current State
+
State Transition
而不仅仅是:
Current State
21.17 场景认知的五层结构
本章可以建立一个基本的五层场景认知模型:
Scene Cognition
│
↓
Scene Parsing
│
↓
Object Recognition
│
↓
Attribute Recognition
│
↓
Relation Recognition
│
↓
State Recognition
但在运行过程中,这五层不是绝对线性的。
实际关系更接近:
Scene
│
┌────────┼────────┐
↓ ↓ ↓
Objects Relations States
│ ↑ ↑
↓ │ │
Attributes ──┴────────┘
│
└────────→ Scene Cognition
它们共同构成场景认知。
21.18 场景认知的完整计算过程
可以将一个场景的认知过程表示为:
Raw Data
↓
Scene Parsing
↓
Scene Structure
↓
Object Recognition
↓
Object Instances
↓
Attribute Recognition
↓
Object Properties
↓
Relation Recognition
↓
Scene Relations
↓
State Recognition
↓
Current States
↓
Scene Integration
↓
Scene Cognition
最终得到:
Scene Cognition
├── Objects
├── Attributes
├── Relations
├── States
├── Events
├── Context
├── Current Situation
└── Cognitive Meaning
21.19 场景认知与知识
场景认知不能脱离知识。
例如感知到:
Object
Shape = Round
Handle = Present
如果系统具有相关知识:
Round
+
Handle
+
Container Structure
↓
Cup
就可以形成对象认知。
因此:
Perception
+
Knowledge
↓
Recognition
同样:
Attribute
+
Knowledge
↓
State Recognition
以及:
Object
+
Object
+
Knowledge
↓
Relation Recognition
因此知识在场景认知中的作用是:
提供识别、匹配、解释和计算所需要的结构规则。
21.20 场景认知与历史
当前场景并不一定能够仅通过当前数据解释。
系统可能需要过去的场景:
Scene(t-2)
↓
Scene(t-1)
↓
Scene(t)
例如:
Cup Stable
↓
Hand Approaches
↓
Contact
↓
Cup Lifted
如果只观察最后一个瞬间:
Cup in Hand
可能无法知道:
Cup 是如何进入 Hand 状态的。
因此:
Current Scene
+
Historical Scene
↓
Dynamic Scene Cognition
这与前面动态场景、场景事件、场景转换的理论体系直接连接。
21.21 场景认知与事件
场景不仅包含静态对象,还包含事件。
例如:
Cup
+
Table
是静态结构。
而:
Cup
↓
falls
↓
Floor
是场景事件。
因此:
Scene
+
Event
↓
Dynamic Scene
↓
Scene Cognition
场景认知不仅需要回答:
现在有什么?
还需要回答:
刚刚发生了什么?
以及:
正在发生什么?
甚至:
接下来可能发生什么?
由此进入预测认知。
21.22 场景认知的输出
场景认知最终不是为了生成一个场景描述。
它必须产生能够进入下一层系统的认知结果。
例如:
Scene Cognition
↓
Current Situation
↓
Goal Comparison
↓
Capability Requirement
↓
Capability Matching
因此:
Scene Cognition
↓
What Exists
↓
What State
↓
What Relation
↓
What Is Happening
↓
What Can Be Done
↓
What Should Be Done
这就是场景认知与行动系统之间的连接。
21.23 场景认知与能力
第17章建立了能力匹配:
Current State
+
Current Goal
+
Available Knowledge
+
Available Capability
↓
Capability Matching
而当前状态从哪里来?
其中一个重要来源就是:
Scene Cognition
因此:
Scene Cognition
↓
Current Scene
↓
Current State
↓
Current Goal Gap
↓
Capability Matching
例如:
Scene:
Cup on Table
Hand nearby
↓
Cognition:
Cup is reachable
↓
Capability:
Grasp(Cup)
↓
Method:
Approach → Contact → Grip
于是第21章与第14—19章的能力体系形成连接。
21.24 场景认知的动态循环
完整场景认知不是一次性处理:
Perception
↓
Scene Parsing
↓
Object Recognition
↓
Attribute Recognition
↓
Relation Recognition
↓
State Recognition
↓
Scene Cognition
↓
Action
↓
Environment Change
↓
New Perception
↓
Re-Cognition
因此:
Scene(t)
↓
Cognition(t)
↓
Action(t)
↓
Scene(t+1)
↓
Cognition(t+1)
这就是:
Dynamic Scene Cognition|动态场景认知
21.25 场景认知的对象化结构
从 WSaiOS-ICAI 的面向对象角度,可以将场景认知抽象为:
SceneCognition
├── Scene Identity
├── Scene Type
├── Scene Context
├── Scene Time
├── Objects
├── Attributes
├── Relations
├── States
├── Events
├── Historical Scene
├── Current Situation
├── Cognitive Result
├── Confidence
└── Cognition State
其中:
Objects
↓
Attributes
↓
Relations
↓
States
↓
Events
↓
Scene Cognition
共同形成当前场景的认知模型。
21.26 场景认知的核心计算模型
可以进一步抽象:
SceneCognition(t)
=
F(
Scene(t),
Objects(t),
Attributes(t),
Relations(t),
States(t),
Events(t),
Knowledge(t),
History(t),
Goal(t)
)
其中:
Scene
= 当前环境
Objects
= 场景中的实体
Attributes
= 对象特征
Relations
= 对象之间的结构
States
= 当前条件
Events
= 状态变化
Knowledge
= 认知依据
History
= 历史上下文
Goal
= 当前目的
最终:
SceneCognition
↓
Situation Understanding
↓
Capability Requirement
↓
Action Basis
21.27 五种识别形成场景认知
本章五个核心模块可以总结为:
场景解析
↓
确定场景结构
对象识别
↓
确定有什么
属性识别
↓
确定具有什么特征
关系识别
↓
确定彼此如何连接
状态识别
↓
确定当前处于什么情况
最终:
Scene Parsing
+
Object Recognition
+
Attribute Recognition
+
Relation Recognition
+
State Recognition
↓
Scene Cognition
这五个过程共同构成场景认知的基础结构。
21.28 场景认知与普通识别系统的区别
普通识别系统可能是:
Input
↓
Object Detection
↓
Label
例如:
Image
↓
Cup
而 ICAI 的场景认知是:
Input
↓
Scene Parsing
↓
Objects
↓
Attributes
↓
Relations
↓
States
↓
Events
↓
Context
↓
Scene Cognition
↓
Capability
↓
Behavior
↓
Action
因此二者的根本区别在于:
普通识别主要解决“识别是什么”,场景认知解决“当前世界结构是什么、处于什么状态、正在发生什么,以及这些结构对个体下一步行动意味着什么”。
21.29 第20章与第21章的关系
第20章:
Cognition
解决:
什么是认知?
第21章:
Scene Cognition
解决:
认知面对一个具体场景时如何形成?
因此:
第20章
Cognition
↓
认知的定义
↓
认知的计算性
进入:
第21章
Scene Cognition
↓
场景解析
↓
对象识别
↓
属性识别
↓
关系识别
↓
状态识别
形成:
Cognition
↓
Scene Cognition
↓
Situation Understanding
↓
Capability
↓
Method
↓
Behavior
↓
Action
21.30 场景认知的最终模型
综合本章,可以建立 WSaiOS-ICAI 的场景认知模型:
WORLD
│
↓
PERCEPTION
│
↓
SCENE PARSING
│
┌──────────┼──────────┐
↓ ↓ ↓
OBJECT ATTRIBUTE RELATION
│ │ │
└──────────┼──────────┘
↓
STATE RECOGNITION
│
↓
EVENT / CHANGE
│
↓
SCENE COGNITION
│
↓
CURRENT SITUATION
│
↓
GOAL COMPARISON
│
↓
CAPABILITY MATCHING
│
↓
METHOD SELECTION
│
↓
BEHAVIOR
│
↓
ACTION
│
↓
EXECUTION
│
↓
FEEDBACK
│
↓
SCENE CHANGE
│
└──────→ RE-COGNITION
这意味着场景认知成为:
世界状态 → 个体认知 → 个体行动
之间的核心转换机制。
核心结论
第21章可以最终归纳为:
场景认知是人工个体对当前场景进行解析,并通过对象识别、属性识别、关系识别和状态识别建立完整场景结构,再结合知识、历史和目标对当前情况进行计算,从而形成能够驱动能力、方法、行为和行动的认知结果。
最简结构:
Scene
↓
Parsing
↓
Objects
↓
Attributes
↓
Relations
↓
States
↓
Scene Cognition
↓
Situation
↓
Capability
↓
Action
因此,在 WSaiOS-ICAI 中:
对象识别 = 认识“有什么”
属性识别 = 认识“具有什么”
关系识别 = 认识“如何连接”
状态识别 = 认识“当前怎样”
场景认知 = 认识“这些结构共同构成了什么情况”
进一步形成完整的认知逻辑:
世界
↓
场景
↓
对象
↓
属性
↓
关系
↓
状态
↓
场景认知
↓
能力
↓
方法
↓
行为
↓
行动
↓
反馈
↓
场景变化
↓
再认知
场景因此不再只是人工智能系统的输入环境,而成为 Cognition 进行结构化计算的基本认知空间;场景认知则成为连接世界状态与个体能力的核心机制。