理论:分层控制与慢快双速
分层控制结构(时间尺度分层) KT-ctrl-041
定义分层控制将系统控制分为多个时间尺度/抽象层:上层以较慢采样率做策略层决策,下层以较快速度执行高频动作层任务;决策层与执行层在时间尺度上解耦。
数学时间尺度分离模型含慢变量 x(上层)与快变量 z(下层),ẋ=f(x,z,u),ε·ż=g(x,z,u),ε 为小参数;上层用慢时间尺度 τ=εt 决策,下层在原时间尺度执行。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-041a | S1 | MIT OCW 6.231 Bertsekas Dynamic Programming |
| SRC-041b | S2 | Sutton & Barto《RL: An Introduction》Ch.17 |
递阶/多层控制 KT-ctrl-042
定义多层控制按层级组织控制器,每层对下层施加约束/目标(上级约束下级),上层解决协调问题,下层保持自主性。Mesarović 提出「交互预判原理」,上层修正下层耦合变量达成全局最优。
数学上层协调变量 λ 优化全局 min_u J(u)=ΣJ_i(u_i),s.t. g_i(u_i,λ)≤0;下层在给定 λ 下独立求子问题 min J_i(u_i);上层更新 λ 逼近全局最优(Interaction Prediction Principle)。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-HIER-01 | S1 | Mesarović, Macko & Takahara《Theory of Hierarchical, Multilevel Systems》(1970) |
| SRC-HIER-02 | S1 | Mesarović et al. "Two Coordination Principles..." Automatica 6(1970) 323-331 (Interaction Prediction Principle) |
| SRC-HIER-03 | S1 | Mesarović "Multilevel Systems and Concepts in Process Control" Proc. IEEE 58(1) 1970 111-125 |
时间尺度分离(慢决策/快动作) KT-ctrl-043
定义系统可分解为时间尺度分离的快/慢两组动力学:慢子系统携带宏观决策状态,快子系统携带微观执行状态;通过奇摄动方法在 ε→0 极限下将快动态在慢流形上投影掉,简化设计。
数学奇摄动标准形 ẋ=f(x,z,u)(慢),εż=g(x,z,u)(快);令 z=h(x,u) 为 g=0 的准稳态流形,降阶模型 ẋ=f(x,h(x,u),u);ε>0 时边界层误差以 O(ε) 收敛。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-043a | S2 | Wikipedia Singular Perturbation |
| SRC-043b | S2 | Sutton & Barto《RL: An Introduction》Ch.17.2 |
MPC 与滚动时域优化(RHC) KT-ctrl-044
定义MPC 每个采样时刻基于当前状态与预测模型,在有限预测时域 N 内求解开环最优控制问题,但只执行第一步结果;随后时域前移、状态更新,问题重新求解,又称「滚动时域控制」。
数学min Σ_{k=0}^{N-1}ℓ(x_k,u_k)+Φ(x_N),s.t. x_{k+1}=f(x_k,u_k),x_k∈X,u_k∈U;仅执行 u₀*,下一时刻以新状态重新求解(时域前移一格)。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-044a | S2 | Wikipedia Model Predictive Control |
| SRC-044b | S2 | Camacho & Bordons《Model Predictive Control》 |
| SRC-044c | S1 | ReAct (Yao et al., ICLR 2023, arXiv:2210.03629) |
规划-执行解耦(Plan-and-Execute) KT-ctrl-045
定义将任务求解拆成两个解耦阶段:上层规划器(Planner)在初始/当前状态生成高层步骤序列(plan),下层执行器(Executor)逐步骤执行并把实际结果/观察反馈回规划器,使规划器可修正或重规划。
数学规划器 π_plan(s,g)=(a₁,…,a_n);执行器逐步 a_t=π_exe(a_t,o_t),o_t 为执行后观察;两层通过契约接口(plan 级 vs 动作级)交换。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-045a | S1 | ReAct (Yao et al., ICLR 2023, arXiv:2210.03629) |
| SRC-045b | S2 | Sutton & Barto《RL: An Introduction》Ch.17.2 |
分层强化学习 / options / SMDP KT-ctrl-046
定义分层 RL 通过把 MDP 分层为子任务/选项(option)实现时序抽象。选项是 ⟨I,π,β⟩ 元组:I 是触发状态集,π 是闭环子策略,β 是终止条件函数。选项在 SMDP 上取多个时间步执行,低层动作是选项特例(β≡0)。
数学选项 ω=⟨I_ω,π_ω,β_ω⟩;分层 Bellman v(s)=Σ_{ω∈Ω(s)}π(ω|s)[r(s,ω)+Σ_s' p(s'|s,ω)v(s')];选项转移 p(s'|s,ω)=Σ_{k=1}^∞γ^k·Pr{S_k=s',τ=k|S₀=s},奖励 r(s,ω)=E[R₁+γR₂+…+γ^{τ−1}R_τ]。
📚 证据来源
| SRC | 级别 | 信源 |
|---|---|---|
| SRC-046a | S1 | Sutton & Barto《RL: An Introduction》Ch.17.2 |
| SRC-046b | S1 | Sutton, Precup & Singh 1999 AIJ 112(1-2) |