响应曲面法

反应曲面法（Response surface methodology，简写RSM）为结合数学与统计而延生出的方法，为最适实验设计或作业条件的有利工具，于1951年，Box 和 Wilson 共同进行数学模式的建立与推导，而后普遍应用于电子、机械、农业、化学工业、生物科技、材料科学、食品科学及工业制程改善等各项研究领域中。

## 说明

反应曲面法在协助研究人员对科学系统或工业制程中最佳产品设计、制程改善、系统最佳化等问题提供一套分析、求解程序，大部分应用时机均属工业性研究，尤其是当系统特性受大量变数影响状况下最为适当。

## 历史

1920｜R.A. Fisher 从基本的实验设计技术的改进开始发展反应曲面法，并将农业及生命科学的实验设计技术引进工业界。

1951｜Box 和 Wilson 共同进行数学模式的建立与推导开始。

1966｜Hill 和 Hunter 等相关研究下，其理论模式的建立与应用已趋于完整。

1966~1988｜相关延伸的研究包含了探讨模式的稳健性、可旋转性、直交性、最佳化设计与自变数高度相关等因子实验或混和实验中常见问题，以及反应曲面法分析中之正规分析、脊线分析与双反应曲面系统等。

1980｜由于电脑模拟技巧应用于决策科学上渐受欢迎，反应曲面法亦成为分析复杂系统中重要影响变数的一项工具

2000至今｜多反应值最佳化设计与多反应值共同最佳化问题成为反应曲面法研究的主流。

## 概念

反应曲面法之研究问题，一般假设问题为限制性之最佳化问题，目标函数的确切型式是未知的 $Y=f(X_1, X_2,\cdots,X_k)+\epsilon$，$\epsilon$ 为误差，反应曲面法一般在此前提的假设与应用系统的限制下，可有效地求得最佳实验或作业变数值。

一般来说，执行反应曲面法大致分为两阶段:

- 第一阶段称为反应曲面设计（response surface design）
- 第二阶段称为反应曲面最佳化（response surface optimization）

### 反应曲面设计

为探讨独立变数与反应变数之间的数学模式关系，因此欲对于反应和独立变数之间找出一个适当的近似函数。通常利用独立变数在一些范围里的低阶多项式近似，即为一阶回归模型 （first-order model）。

$\hat{y}=\hat{\beta_0}+\sum_{i=1}^{k}\hat{\beta_i}x_i$

如果系统中有曲率，则必须利用较高阶的多项式，如二阶模型（second-order model）。

$\hat{y}=\hat{\beta_0}+\sum_{i=1}^{k}\hat{\beta_i}x_i+\sum_{i=1}^{k}\hat{\beta_{ii}}x_i^2+\sum\sum_{i<j}\hat{\beta_{ij}}x_ix_j$ 获得最适化实务模型便是本阶段最重要的议题。收集资料后以最小平方法 （least squares estimation, LSE）配适，以寻找出一个适当近似的函数，采用回归分析的显著性检定 （general linear test approach）来了解独立变数与反应变数间的关系强弱，并检定配适的模式是否恰当 （statistical adequacy）。当实验区域接近最佳反应值附近时，真实反应曲面的曲率 （curvature）会增加，则考虑二阶模型，同样的，我们需要检定二阶模式的适当性。当这个二阶回归模式配适良好时，便可以利用这二阶模式求得最适操作点及特征化反应曲面。

### 反应曲面最佳化

反应曲面法是一个逐次程序 （sequential procedure）。通常，当我们是在反应曲面的一个远离最佳状况的点时，系统只有少量的曲率而一阶模型会是适当的，在此欲沿着改善路径快速且有效地朝向最佳点 （optimum）附近。

进而利用最陡上升（下降）法 （steepest ascent/descent method）。所配适一阶模型的反应曲面，也就是 $\hat{y}$ 的等高线，沿着最大反应变数增加（减少）逐次移动程序，直到反应值无法再改善为止，其中，前进步伐的决定并非固定不变，可以根据实验情况或经验值决定，接着以此组操作水准为新的实验中心点，并重复实验步骤，往最佳反应曲面的方向逼近，并且执行线性模式之缺适性检定，一旦发现一阶回归模型不适合时，表示已接近最佳点，此时应采用更复杂的数学模式来进行分析。｜

<image>

如果选择二阶模式配适实验资料时，一般进行中央合成设计实验 （CCD）或是三水准因子设计 （three-level factorial design），在配适及检定二阶模型完成之后，就进行反应曲面分析，指在目前实验区域中，以实际不同情况（或制程限制）针对反应曲面系统作深入探讨。此时可利用正规分析或脊线分析等技术来进一步了解稳定点 （stationary point）之数学特性，其发现为鞍点 （saddle point）则需进行更进一步的脊线分析，并配合反应曲面图（或轮廓图）的协助，若二阶模式配适时仍存在缺适性之问题，则可以求得局部最佳操作状态或再进而配适更高之回归模式，如三次 （cubic）或四次 （quartic）模型。｜

<image>

### 优点

- 经济性原则：反应曲面法可以使用部分因子设计或特殊反应曲面设计（如混种设计等 （hybrid design）），以较少的实验成本及时间获得不错且有效的资讯。
- 深入探讨因子间交互作用影响：反应曲面法可以经由分析与配适模式来研究因子间的交互作用，并且进而讨论多因子对反应变数影响的程度。
- 获得最适化的条件：根据数学理论求得最适的实验情况，同时利用配适反应方程式绘出模式三度空间曲面图与等高线图，观察并分析出最适的操作条件。
- 减少模拟时间：可获得模拟独立变数与响应变数关系之数学模型，借此将实验次数及时间降低。

### 限制

在应用上主要存在下列二项限制：

- 只适用于连续性的系统，是假设所有反应值与独立变数的量测刻度是连续性的。
- 影响系统之独立变数（可控制和不可控制变数）是属于计量性。

## 应用

这里以行动随意网络 （MANET）为例。

网络是由行动主机 （Mobile host, MH）所组成，这些 MH 中有部分担任群组管理者 （Cluster Manager, CM）的工作。管理者身份的行动主机主要负责群聚的形成、维持，并维护网络拓朴。行动主机会对群聚内的成员作资源分配及管理；另外一种 MH 就称为一般节点。MANET架构环境下，每个MH不需经过基地台即可自我组织 （Self-organization）形成动态网络，每个 MH 之间可随意移动借由多跳跃无线链接 （multi-hop wireless links）彼此沟通，每个 MH 也是像路由器一般担负的封包传送与转送。

### 背景

因行动随意网络不需无线基地台 （Base station, BS）或无线网络桥接器 （Access point, AP）即可做点对点的传输，在应用上有很多好处。像是在灾难发生导致主从式网络架构毁坏时，提供救助或著是紧急运作；在不利或是不熟悉的地方进行军事策略任务等。因此大量的研究注重在最适化协定堆叠 （protocol stack）中个体层的协议之执行。一些基本的参数如下：

### 问题与方法

而这里主要探讨的是行动式随意网络里 IEEE 802.11 中的 媒体存取控制 （Medium access control, MAC）协定和随意随选距离向量 （Ad hoc On demand Distance Vector, AODV）路由协议间的通讯。

由于目前没有一个通用的方法论来确认和最适化协定之间的通讯，这里利用反应曲面法来解决这些问题。

考虑三个可能影响的因子：

```
A：Active route timeout
B：Max route request wait timeout
C：Max retransmissions
```

将三个因子分别设定成二个水准（利用 ns-2 模拟器中 AODV 软件分配的预设值）

而网络性能上考虑以下二个变数做为反应变数：

```
Average throughput：目的地節點每秒收到的數量（bytes/sec）
Average packet delay：一個封包從來源送到目的節點所花的平均時間（sec）
```

因此我们将网络分析的问题转变为二水准三因子实验设计（response surface design）

接下来利用反应曲面法寻求最佳化 （response surface optimization），使得 average throughput 最大，average packet delay 最小。

并且在某个限制式下，寻求最佳解，例如，延迟时间在 400ms 之内。

可利用 ns-2 模拟器来模拟出 20 次不同的流动情境，拿预设值和用 RSM 找出的最佳解做比较。

以下是利用蒙地卡罗 （Monte Carlo）模拟下，一些比较的结果：

### 因子动态

在不同的网络设定下，有可能导致不同因子对于反应变数的影响程度。因此对于因子在不同网络环境下之表现行为的了解，对 RSM 是很重要的。

不仅可以决定超初的搜寻范围，亦可决定最陡上升（下降）法的步伐大小。

某些应用中，平均网络速度及节点密度是已知的条件，在自然世界的动态中可能会不合适，因此在分析时亦需将当下的网络条件随时做改变。

关于这个问题，可将因子配上一个权重表示，设定所有因子的权重起始值为1，而权重将随着网络设定的不同而改变；0表示对反应变数没有影响。

下表为不同网络设定下，各因子的影响程度比较：

### 相关工作

此例子为在 IEEE 802.11 中的媒体存取控制协定和随意随选距离向量路由协定中的通讯，其他的协定下的补充研究可参考

- AODV：E.M. Royer and C.E. Perkins
- DSR：Maltz, J. Broch, and D.B. Johnson
- ODMRP：S.H. Bae, S.-J. Lee, and M. Gerla
- ABR：C.K. Toh and M. Delawar

## 外部链接

- Response surface designs
- Matlab SUrrogate MOdeling Toolbox - SUMO Toolbox - Matlab code for Response Surface Modeling