哑变量

**虛擬變數**（英語：dummy variable），又稱**啞變數**，指在統計學和計量經濟學，尤其是迴歸分析中僅取 0 或 1 的值，以此表示某些可能改變結果的定性效應之有無的變數。可以認為，虛擬變數是迴歸模型中用數字來替代並表示定性事實，從而將數據分為互斥的類別（如吸菸者及非吸菸者）。

虛擬自變數（又稱虛擬解釋變數）取值為 0 時，該變數的係數對應變數沒有影響，而當虛擬變數取值為 1 時，其係數會改變截距。例如，假定某人是否為某組的成員是與迴歸相關的定性變數之一，如果屬於該組成員以 1 代表，則其他所有人獲得 0 值，此時截距對非成員是常數項，對成員則是常數項加上「成員」虛擬變數的係數。

虛擬變數常用於時間序列分析，包括狀態轉換、季節性分析和定性數據應用。

## 引入虛擬自變數

迴歸模型中，引入虛擬變數的方式與引入定量變數（作為解釋變數）的方式相同。例如，假設一個工資（wage）的明瑟迴歸模型，其中工資受性別（以 female 表示的虛擬變數，定性）和教育年限（education，定量）的影響，則：

　
: $\ln {\text{wage}}=\alpha _{0}+\delta _{0}{\text{female}}+\alpha _{1}{\text{education}}+u$

其中 $u\sim N(0,\sigma ^{2})$ 是誤差項。在模型中，當一個人是女性時，_female_ = 1，當是男性時，_female_ = 0。 _δ_0 可以理解為教育條件一樣時，女性和男性之間的工資差異。因此，_δ_0 有助於確定男女之間的工資是否存在差異。例如，如果 _δ_0 > 0（正係數），則女性的工資高於男性（其他因素不變）。附加在虛擬變數前的係數稱為**差別截距係數**（differential intercept coefficient）。在模型的圖像上，它可視為女性及男性之間截距的差異。圖中顯示的為 _δ_0 < 0（男性的工資高於女性）的情形。

虛擬變數可擴展到更為複雜的情況，例如透過替每個季節設置虛擬變數來捕捉季節效應：夏季時 $D_{1}=1$ ，其他季節取 0；秋季時 $D_{2}=1$ ；冬季時 $D_{3}=1$ ；春季時 $D_{4}=1$ 。在縱橫資料中，可為橫截面數據（如公司或國家）中的每個單位或匯總時間序列中的時期設置固定效應估計虛擬變數。在此種迴歸中，必須刪除常數項或刪除其中一個虛擬變數，將其作為評估其他類別的基本類別，以避免落入**虛擬變數陷阱**（dummy variable trap）：

所有迴歸方程式中的常數項是一個係數乘以一個等於 1 的迴歸量。當迴歸表示為矩陣方程式時，迴歸量矩陣由一列 1（常數項）、0 和 1 向量（虛擬變數）以及其他迴歸量（若有）組成。例如，如果一個模型同時包含男性和女性虛擬變數，則這些向量的總和是全一向量，因為每個觀察都要麼歸為男性，要麼歸為女性。因此，這個總和等於常數項的迴歸量，即第一個向量。結果，即使使用典型的偽逆法，迴歸方程式也無法求解。換句話說：如果全一向量（常數項）迴歸量和一組窮舉的虛擬變數同時存在，則會出現完全多重共線性，迴歸形成的方程組沒有唯一解。此即**虛擬變數陷阱**。可透過刪除常數項或其中一個有問題的虛擬變數以避免陷阱，而被刪除的虛擬變數即作為與其他類別進行比較的基本類別。

## 變異數分析模型

若一個迴歸模型中，應變數本質上是定量的，但所有解釋變數都是虛擬變數（本質上是定性的），這種迴歸模型稱為變異數分析（ANOVA）模型。

### 有一個定性變數的變異數分析模型

假定我們要進行迴歸以了解公立學校教師的平均年薪在 A 國 51 個州的三個地理區域之間是否存在差異，其中這三個區域分別為：（1）北部（21 個州），（2）南部（17 個州），（3）西部（13 個州）。假設簡單算術平均工資如下：$24,424.14（北）、$22,894（南）、$26,158.62（西）。其算術平均值不同，但它們在統計上是否有意義？為了比較平均值，可以使用變異數分析技術。迴歸模型可以定義為：

　
: $Y_{i}=\alpha _{1}+\alpha _{2}D_{2i}+\alpha _{3}D_{3i}+u_{i}$

其中

　
: $Y_{i}=$ i 州公立學校教師的平均年薪

　
: 若 i 州在北部地區，則 $D_{2i}=1$ ，

　
: 否則 $D_{2i}=0$ （除北部以外的任何地區）

　
: 若 i 州在南部地區， $D_{3i}=1$

　
: 否則 $D_{3i}=0$

該模型中只有定性迴歸量，如果觀測屬於特定類別，則取值為 1，如果屬於任何其他類別，則取值為 0。因此，它是一個變異數分析模型。

現在，考慮雙方的期望值，可得到以下訊息：

北部地區公立學校教師平均工資：

　
: _E_(_Yi_|_D_2_i_ = 1, _D_3_i_ = 0) = _α_1 + _α_2

南部地區公立學校教師平均工資：

　
: _E_(_Yi_|_D_2_i_ = 0, _D_3_i_ = 1) = _α_1 + _α_3

西部地區公立學校教師平均工資：

　
: _E_(_Yi_|_D_2_i_ = 0, _D_3_i_ = 0) = _α_1

（期望值中不含誤差項，因為我們假設它滿足通常的普通最小平方法條件，即 _E_(_ui_) = 0。）

期望值可以解釋如下：西部公立學校教師的平均工資等於多元迴歸方程式中的截距項 _α_1，加上差別截距係數 _α_2 和 _α_3，後者解釋為南部、北部地區的教師工資均值與西部地區相差多少。因此，北部和南部教師的平均工資與西部教師的平均工資進行比較。西部地區因此成為**基準組**，即與之進行比較的組。省略的組別（即沒有分配虛擬變數的組別）作為基準組別。

使用這些數據進行迴歸的結果為：

　
: _Ŷ_i = 26,158.62 − 1734.473_D_2_i_ − 3264.615_D_3_i_

　
: _se_ = (1128.523) (1435.953) (1499.615)

　
: _t_ = (23.1759) (−1.2078) (−2.1776)

　
: _p_ = (0.0000) (0.2330) (0.0349)

　
: _R_2 = 0.0901

其中，se = 標準誤差，t = t 統計量，p = p 值。

迴歸結果可以解釋為：西部教師（基準組）的平均工資約為 $26,158；與之相比，北部教師的工資低約 $1734（$26,158.62 - $1734.473 = $24,424.14，即平均工資北部教師的工資），南部教師的工資低約 $3265（$26,158.62 - $3264.615 = $22,894，即南部教師的平均工資）。

要確定南、北部教師的平均工資與西部教師的平均工資（比較組別）在統計學上是否有差異，我們必須找出迴歸結果的斜率係數是否具有統計學意義。為此，我們需要考慮 _p_ 值。北部的估計斜率係數在統計上並不顯著，因為它的 _p_ 值為 23%；然而，南部的 _p_ 值僅在 3.5% 左右，在 5% 的水平上具有統計顯著性。因此，母體結果是：西部和北部教師的平均工資在統計上沒有顯著差異，但南部教師的平均工資在統計上比西部低 $3265 左右。模型如圖 2 所示。該模型是一個變異數分析模型，其中，一個定性變數具有 3 個類別。

### 有兩個定性變數的變異數分析模型

考慮具有兩個定性變數的變異數分析模型，每個變數都有兩個類別：應變數「時薪」使用定性變數「婚姻狀況」（已婚 / 未婚）和「地理區域」（北部 / 非北部）來解釋。其中，婚姻狀況和地理區域是兩個解釋性虛擬變數。

假設基於某些給定數據的迴歸輸出如下所示：

　
: _Ŷi_ = 8.8148 + 1.0997_D_2 − 1.6729_D_3

其中，

　
: _Y_ 為時薪（單位：$）

　
: _D_2 為婚姻狀況，1 = 已婚，0 = 未婚

　
: _D_3 為地理區域，1 = 北部，0 = 非北部

該模型為每個定性變數分配了一個虛擬變數，比每個變數中包含的類別數少一個。

這裡，基準組是省略的組別：未婚、非北方地區的人。所有比較都與該基準組或省略的組別相關。基準組的平均時薪約為 $8.81（截距項）。相比之下，已婚人士的平均時薪高出約 $1.10，約為 $9.91（$8.81 + $1.10）。相比之下，居住在北方的人的平均時薪低約 $1.67，約為 $7.14（$8.81 - $1.67）。

一般來說，如果迴歸中包含一個以上的定性變數，則應選擇一個省略的組別作為基準組。所有比較都與該組相關。截距項將顯示基準組的期望值，斜率係數顯示其他組別與基準（省略）組別的差異程度。

## 共變異數分析模型

包含定量和定性變數的混合迴歸模型稱為共變異數分析（ANCOVA）模型。 共變異數分析模型是變異數分析模型的擴展。它們統計控制定量解釋變數（也稱為協變數或控制變數）的影響。

為了說明如何包含定性和定量迴歸變數來形成共變異數分析模型，假設我們考慮在變異數分析模型中使用的相同示例，其中有一個定性變數：A 國三個地理區域的公立學校教師的平均年薪。如果我們包括一個定量的變數：州政府對每名公立學校學生的財政支出，則這一迴歸中，可得到以下模型：

　
: _Yi_ = _α_1 + _α_2_D_2_i_ + _α_3_D_3_i_ + _α_4_Xi_ + _Ui_

其中，

　
: _Yi_ = i 州公立學校教師的平均年薪

　
: _Xi_ = 公立學校每名學生的州財政支出

　
: _D_2_i_ = 1，若 i 州在北部地區

　
: : 否則 _D_2_i_ = 0

　
: _D_3_i_ = 1，若 i 州在南部地區

　
: : 否則 _D_3_i_ = 0

假設這個模型的迴歸輸出是

　
: _Ŷi_ = 13,269.11 − 1673.514_D_2_i_ − 1144.157_D_3_i_ + 3.2889_Xi_

結果表明，公立學校每名學生的州財政支出每增加 $1，公立學校教師的平均工資就會增加約 $3.29。此外，對於北部地區的一個州，教師的平均工資比西部地區低約 $1673，對於南部地區的一個州，教師的平均工資比西部地區低約 $1144。圖 3 描繪了該模型。假設支出係數不因州而異，則平均工資線彼此平行。圖中分別顯示了每個類別中，兩個定量變數之間的關係，即公立學校教師的工資（Y）與公立學校每名學生的州財政支出（X）之間的關係。

## 虛擬變數間的交互作用

迴歸模型中的定量迴歸變數通常存在交互作用。同樣，定性的迴歸變數，即虛擬變數之間也可能有交互作用，這些交互作用可在迴歸模型中描述。例如，在涉及工資確定的迴歸中，如果考慮兩個定性變數：性別和婚姻狀況，則婚姻狀況和性別之間可能存在交互作用。這些交互作用可以在迴歸方程式中顯示，如下例所示。

由於兩定性變數是性別和婚姻狀況，定量的解釋變數是受教育年限，解釋變數純線性的迴歸將是

　
: _Yi_ = _β_1 + _β_2_D_2,_i_ + _β_3_D_3,_i_ + _αXi_ + _Ui_

其中

　
: i 表示某個特定個人

　
: Y = 時薪（單位：$）

　
: X = 受教育年限

　
: _D_2 = 1 若為女性，否則為 0

　
: _D_3 = 1 若已婚，否則為 0

這一模型無法表達兩個定性變數 _D_2 和 _D_3 之間發生交互作用的可能性。例如，已婚女性的工資與未婚男性的工資差異，其數額與單獨為女性和單獨為已婚的差值之和不同。為了考慮這種可能性，工資的確定可以指定為：

　
: _Yi_ = _β_1 + _β_2_D_2,_i_ + _β_3_D_3,_i_ + _β_4(_D_2,_i__D_3,_i_) + _αXi_ + _Ui_

其中，

　
: _β_2 = 作為女性的差別效應

　
: _β_3 = 已婚的差別效應

　
: _β_4 = 女性且已婚的進一步差別效應

根據該等式，在沒有非零誤差的情況下，未婚男性的工資為 _β_1 + _αXi_，未婚女性的工資為 _β_1 + _β_2 + _αXi_，已婚男性的工資為 _β_1 + _β_3 + _αXi_，而已婚女性的比例是 _β_1 + _β_2 + _β_3 + _β_4 + _αXi_（其中任何虛擬變數係數的估計值都可能是為正、零，或負）。

由此，交互虛擬變數（兩個虛擬變數的乘積）會改變應變數，使之與單獨考慮兩個虛擬變數時得到的值有所不同。

或者，可以透過使用不同的數據分類方案來避免使用虛擬變數的乘積來表達交互作用，即使用根據特徵組合指定組別的方案。如果令

　
: _D_4 = 1 若為未婚女性，否則為 0

　
: _D_5 = 1 若為已婚男性，否則為 0

　
: _D_6 = 1 若為已婚女性，否則為 0

那麼僅需指定如下迴歸：

　
: _Yi_ = _δ_1 + _δ_4_D_4,_i_ + _δ_5_D_5,_i_ + _δ_6_D_6,_i_ + _αXi_ + _Ui_

那麼在零誤差項下，應變數的值是對於基準組未婚男性為 _δ_1 + _αXi_，對於未婚女性為 _δ_1 + _δ_4 + _αXi_，對於已婚男性為 _δ_1 + _δ_5 + _αXi_，對於已婚女性為 _δ_1 + _δ_6 + _αXi_。該方法在等號右側使用的變數數與先前具有交互項的方法相同，並且使用本方法還是指定交互項目的方法，對於 Xi 下任意定性特徵組合下的應變數預測值，給出的迴歸結果是相同的。

## 虛擬應變數

### 應變數是虛擬變數的情景

具有虛擬應變數（也稱為定性應變數）的模型中，應變數受解釋變數的影響是定性的。例如，一些關於執行「多少」行為的決定涉及事先決定是否執行該行為；「事前決策」的迴歸在迴歸模型中有一個因虛擬變數。

例如，潛在工人成為勞動力一部分的決策是一個虛擬應變數。該決策是二分的，即有兩種可能的結果：是和否。因此，虛擬應變數 _Participation_ 在「參與」時取值為 1，「不參與」則取值為 0。下面給出其他一些二元的虛擬應變數的例子：

* **決策：**職業選擇。**虛擬應變數：**若選擇成為高管，則 高管 = 1，否則為 0。
* **決策：**隸屬於某政黨。**虛擬應變數：**若隸屬於某政黨，則 隸屬 = 1，不加入則為 0。
* **決策：**退休。**虛擬應變數：**若已退休，則 退休 = 1，0 表示未退休。

當虛擬應變數具有兩個以上的值時（例如隸屬於多個政黨），它就變成了多響應（或多項式、多叉分枝）模型。

### 虛擬應變數模型

虛擬應變數模型的分析有不同的方法。其中一種是通常的普通最小平方法，在該情景下稱為線性機率模型。另一種方法是假設存在一個不可觀察的連續潛變數 Y\*，如果 Y\* > 0，則觀察到的二分變數 Y = 1，否則為 0。這是邏輯斯諦和機率單位模型的基本理念。這些模型將在下面簡要討論。

#### 線性機率模型

普通最小平方法模型中，若應變數 Y 是二分的虛擬變數，取值 0 或 1，則稱該模型為線性機率模型（LPM）。假設考慮以下迴歸：

　
: $Y_{i}=\alpha _{1}+\alpha _{2}X_{i}+u_{i}$

其中 $z_{i}=\alpha _{1}+\alpha _{2}X_{i}+u_{i}$ 。

　
: $X$ = 家庭收入

　
: $Y=1$ 若住房為家庭自有，0 若住房非家庭自有

該模型稱為線性機率模型，是因為迴歸是線性的。給定 Xi 條件下的 Yi 的條件均值記作 $\mathbb {E} (Y_{i}|X_{i})$ ，可解釋為在相應 Xi 值下，事件發生的條件機率，即 Pr(_Y_i = 1 | _X_i) 。在這個例子中， $\mathbb {E} (Y_{i}|X_{i})$ 表示的是當家庭收入為 Xi 時，一個家庭自有住房的機率。

此時，使用普通最小平方法的假設 $E(u_{i}|X_{i})=0$ ，可得到

　
: $\mathbb {E} (Y_{i}|X_{i})=\alpha _{1}+\alpha _{2}X_{i}$

LPM 模型中存在一些固有問題：

1. 迴歸線無法做到擬合良好，因此諸如 _R_2 之類的顯著性度量將不可靠。
2. 使用 LPM 方法分析的模型有異質變異數干擾。
3. 誤差項有非常態分布。
4. LPM 可能會給出大於 1 或小於 0 的應變數的預測值。這將很難作出解釋，因為預測值是機率，必須介於 0 和 1 之間。
5. LPM 模型的變數之間可能存在非線性關係，在這種情況下，線性迴歸將無法準確擬合數據。

#### 線性機率模型的替代品

為了避免 LPM 的局限性，我們需要一個模型，其中隨著解釋變數 Xi 的增加，_P_i = _E_(_Y_i = 1 | _X_i) 應恆在 0 到 1 之間。因此，自變數和應變數之間的關係必然是非線性的。

為此，可以使用累積分布函數（CDF） 來估計虛擬應變數迴歸。圖 4 顯示了一條 S 形曲線，它類似於隨機變數的累積分布函數。該模型中，機率在 0 和 1 之間，並且已經捕獲了非線性關係。此時的問題就是如何選用累積分布函數。

可以使用兩種替代性的 CDF：邏輯斯諦 CDF 和常態 CDF。邏輯斯諦 CDF 產生邏輯模型，常態 CDF 產生機率單位模型。

#### 邏輯模型

LPM 的缺點促使人們開發了一種改良的模型，稱為邏輯（logit）模型。該模型中，迴歸方程式中誤差項的累積分布是邏輯斯諦分布。因為它是非線性的，其迴歸更接近現實。

使用最大概似法估計 logit 模型。該模型中， $P(Y=1|X)$ ，即在給定自變數的情況下，應變數取值為 1 的機率為：

　
: $P_{i}={\frac {1}{1+e^{-z_{i}}}}\ ={\frac {e^{z_{i}}}{1+e^{z_{i}}}}\ $

然後模型以讓步比的形式表示：邏輯斯諦迴歸（對數機率迴歸）中建模的是機率的自然對數，機率定義為 $P/(1-P)$ 。取機率的自然對數，logit（Li）表示為

　
: $L_{i}=\ln \left({\frac {P_{i}}{1-P_{i}}}\right)=z_{i}=\alpha _{1}+\alpha _{2}X_{i}.$

這種關係表明，Li 與 Xi 呈線性關係，但機率與 Xi 呈非線性關係。

#### 機率單位模型

機率單位（probit）模型是為彌補 LPM 的缺點而提出的另一個模型。Probit 模型使用與 logit 模型相同的非線性方法。但是，它使用常態 CDF 而不是邏輯 CDF。

## 參見

* 二元迴歸
* 鄒檢定
* 假說檢定
* 指示函數
* 線性判別分析
* 多重共線性

## 參考文獻

## 延伸閱讀

* Asteriou, Dimitrios; Hall, S. G. Dummy Variables 3rd. London: Palgrave Macmillan. 2015: 209–230. ISBN 978-1-137-41546-2.
* Kooyman, Marius A. Dummy Variables in Econometrics. Tilburg: Tilburg University Press. 1976. ISBN 90-237-2919-6.

## 外部連結

* Maathuis, Marloes. Chapter 7: Dummy variable regression (PDF). Stat 423: Applied Regression and Analysis of Variance. 2007. （原始內容 (PDF) 存檔於 December 16, 2011）.
* Fox, John. Dummy-Variable Regression (PDF). 2010 [2022-07-22]. （原始內容存檔 (PDF) 於 2022-11-22）.
* Baker, Samuel L. Dummy Variables (PDF). 2006. （原始內容 (PDF) 存檔於 March 1, 2006）.