高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 1：緒論、微積分、線性代數(shù)

此文內(nèi)容為《高級(jí)計(jì)量經(jīng)濟(jì)學(xué)及STATA應(yīng)用》的筆記，陳強(qiáng)老師著，高等教育出版社出版。

我只將個(gè)人會(huì)用到的知識(shí)作了筆記，并對(duì)教材較難理解的部分做了進(jìn)一步闡述。為了更易于理解，我還對(duì)教材上的一些部分（包括代碼和正文）做了修改。

僅供學(xué)習(xí)參考，請(qǐng)勿轉(zhuǎn)載，侵刪！

本文目錄：

1 緒論
- 1.1 什么是計(jì)量經(jīng)濟(jì)學(xué)
- 1.2 經(jīng)濟(jì)數(shù)據(jù)的特點(diǎn)與類型
2 數(shù)學(xué)工具
- 2.1 微積分
  - 2.1.1 導(dǎo)數(shù)
  - 2.1.2 一元最優(yōu)化
  - 2.1.3 偏導(dǎo)數(shù)
  - 2.1.4 多元最優(yōu)化
  - 2.1.5 積分
- 2.2 線性代數(shù)*
  - 2.2.1 矩陣
  - 2.2.2 方陣、對(duì)稱陣、單位陣
  - 2.2.3 轉(zhuǎn)置
  - 2.2.4 向量、內(nèi)積
  - 2.2.5 矩陣的加法
  - 2.2.6 矩陣的數(shù)乘
  - 2.2.7 矩陣的乘法
  - 2.2.8 線性方程組
  - 2.2.9 逆
  - 2.2.0 秩、線性無關(guān)
  - 2.2.11 二次型、(半)正定

$\S \text{ 第 1 章 } \S$

$\text{緒論}$

1 緒論

1.1 什么是計(jì)量經(jīng)濟(jì)學(xué)

“計(jì)量經(jīng)濟(jì)學(xué)”，Econometrics，也叫“經(jīng)濟(jì)計(jì)量學(xué)”。就是運(yùn)用概率統(tǒng)計(jì)的方法對(duì)經(jīng)濟(jì)變量之間的（因果）關(guān)系進(jìn)行定量分析的科學(xué)。由于實(shí)驗(yàn)數(shù)據(jù)的缺乏，計(jì)量經(jīng)濟(jì)學(xué)常常不足以確定經(jīng)濟(jì)變量之間的因果關(guān)系。

學(xué)習(xí)計(jì)量經(jīng)濟(jì)學(xué)的時(shí)候很有必要時(shí)時(shí)以“因果關(guān)系”作為思考的框架與指引。計(jì)量分析必須建立在經(jīng)濟(jì)理論的基礎(chǔ)上進(jìn)行。

考慮一個(gè)例子，考慮決定教育投資回報(bào)率的因素：
$\ln W_i = \alpha + \beta S_i + \varepsilon_i$
其中：

$\ln W$ 為工資收入的自然對(duì)數(shù)，為“被解釋變量”
$S$ 為受教育年限，為“解釋變量“
$\varepsilon$ 為隨機(jī)擾動(dòng)項(xiàng)

如果直接對(duì)這個(gè)模型進(jìn)行回歸，效果必然不錯(cuò)。但是，影響工資的因素還可能包含其他諸如個(gè)人能力等等因素，能力厲害的人通常選擇接受更多的教育，所以教育的高回報(bào)其實(shí)包含了對(duì)能力的回報(bào)。

另外，影響工資收入的因素還有更多，所以我們還需要引入更多的控制變量，采用多元回歸的方法，才能夠比較準(zhǔn)確地估計(jì)我們感興趣的參數(shù) $\beta$ ，這就相當(dāng)于沖淡單一變量的效應(yīng)。另外，現(xiàn)實(shí)中總存在某些無法觀測(cè)到變量，即存在遺漏變量，而這些遺漏變量統(tǒng)統(tǒng)被納入隨機(jī)擾動(dòng)項(xiàng) $\varepsilon_i$ 中去了。

1.2 經(jīng)濟(jì)數(shù)據(jù)的特點(diǎn)與類型

由于經(jīng)濟(jì)學(xué)無法像自然科學(xué)意義做控制實(shí)驗(yàn)，所以經(jīng)濟(jì)數(shù)據(jù)一般不是實(shí)驗(yàn)數(shù)據(jù)，而是自然發(fā)生的觀測(cè)數(shù)據(jù)。由于個(gè)人行為的隨機(jī)性，所以經(jīng)濟(jì)變量原則上都是隨機(jī)變量。所以，在本教材（筆記）中，所有變量都是隨機(jī)的，即便是非隨機(jī)的常數(shù)也可以被看作是退化的隨機(jī)變量。

經(jīng)濟(jì)數(shù)據(jù)按照其性質(zhì)，可以分為：

橫截面數(shù)據(jù)（cross-sectional data）：多個(gè)經(jīng)濟(jì)體的變量在同一時(shí)點(diǎn)上的取值
時(shí)間序列數(shù)據(jù)（time series data）：某個(gè)經(jīng)濟(jì)體的變量在不同時(shí)點(diǎn)上的取值
面板數(shù)據(jù)（panel data）：多個(gè)經(jīng)濟(jì)個(gè)體的變量在不同時(shí)點(diǎn)上的取值

$\S \text{ 第 2 章 } \S$

$\text{數(shù)學(xué)工具}$

2 數(shù)學(xué)工具

2.1 微積分

2.1.1 導(dǎo)數(shù)

對(duì)于一元函數(shù) $y=f(x)$ ，一階導(dǎo)數(shù)（first derivative）定義為：
$\frac{d y}{d x} \equiv f^{\prime}(x) \equiv \lim _{\Delta x \rightarrow 0} \frac{\Delta y}{\Delta x} \equiv \lim _{\Delta x \rightarrow 0} \frac{f(x+\Delta x)-f(x)}{\Delta x}$
可以定義 $f^\prime(x)$ 的導(dǎo)數(shù)為二階導(dǎo)數(shù)：
$\frac{d^{2} y}{d x^{2}} \equiv f^{\prime \prime}(x) \equiv \frac{d\left(\frac{d y}{d x}\right)}{d x} \equiv\left[f^{\prime}(x)\right]^{\prime}$
直觀上，二階導(dǎo)數(shù)表示切線的斜率的變化速度，即曲線 $f(x)$ 的彎曲程度，也稱為曲率。

2.1.2 一元最優(yōu)化

計(jì)量中常見的兩種估計(jì)方法為最小二乘法與極大似然估計(jì)，二者都是最優(yōu)化問題（optimization）。前者為最小化問題（minimization），后者為最大化問題（maximization）。

考慮無約束一元最大化問題：
$\max_x f(x)$
則一階條件， $\text{F.O.C.}$ （First Order Condition）為：
$f^\prime(x^\star)=0$
除了一階條件外，還需要滿足二階條件：
$\left\{ \begin{align} f^{\prime\prime}(x^\star) \leq 0, \quad \text{最大化問題}\\ f^{\prime\prime}(x^\star) \geq 0, \quad \text{最小化問題} \end{align} \right.$
一般滿足一階條件以后還必須看看二階條件。

2.1.3 偏導(dǎo)數(shù)

對(duì)于多元函數(shù) $y = f(x_1,\cdots,x_n)$ ，定義 $y$ 對(duì)于 $x_i$ 的偏導(dǎo)數(shù)（partial derivative）為：
$\frac{\partial y}{\partial x_{1}} \equiv \frac{\partial f\left(x_{1}, x_{2}, \cdots, x_{n}\right)}{\partial x_{1}} \equiv \lim _{\Delta x_{i} \rightarrow 0} \frac{f\left(x_{1}+\Delta x_{1}, x_{2}, \cdots, x_{n}\right)}{\Delta x_{1}}$
在計(jì)算 $y$ 對(duì)于 $x_i$ 的偏導(dǎo)數(shù)時(shí)，只要把 ${x_j},j \ne j$ 當(dāng)成常數(shù)即可。在經(jīng)濟(jì)學(xué)中，偏導(dǎo)數(shù)代表邊際效應(yīng)。

2.1.4 多元優(yōu)化

考慮無約束多元最大化問題：
$\max _{\rm x} f(\rm \pmb x) \equiv f\left(x_{1}, x_{2}, \cdots, x_{n}\right)$
其中， ${\mathbf x} \equiv (x_1,\cdots, x_n)$ ，那么一節(jié)條件要求在最優(yōu)值 ${\mathbf x}^\star$ 處，所有偏導(dǎo)數(shù)為0:
$\frac{\partial f\left(\mathbf{x}^{*}\right)}{\partial x_{1}}=\frac{\partial f\left(\mathbf{x}^{*}\right)}{\partial x_{2}}=\cdots=\frac{\partial f\left(\mathbf{x}^{*}\right)}{\partial x_{n}}=0$
此一節(jié)條件要求在最優(yōu)值 ${\mathbf x}^\star$ 處，曲面 $f({\mathbf x})$ 在各個(gè)方向的切線斜率都為0。

2.1.5 積分

考慮連續(xù)函數(shù) $y=f(x)$ 在區(qū)間 $[a,b]$ 上的面積。將區(qū)間劃分成 $n$ 等分，即 $[a,x_1],(x_1,x_2],\dots,(x_{n-1},b]$ ，每個(gè)區(qū)間的長度為 $\Delta x \equiv \frac{b-a}{n}$ 從每個(gè)區(qū)間 $(x_{i-1},x_i]\quad(i=1,\cdots,n)$ 中任取一點(diǎn) $\xi_i$ ，則此面積近似為：
$\sum_{i=1}^{n} f\left(\xi_{i}\right) \Delta x_{0}$
不斷細(xì)分這些區(qū)間，讓 $n \to \infty$ ，可得此面積精確值，即函數(shù) $f(x )$ 在區(qū)間 $[a,b]$ 上的定積分為：
$\int_a^b f(x)dx \equiv \lim_{n \to \infty} \sum_{i=1}^n f(\xi_i) \Delta x$
在極限處，將 $\Delta x$ 記為 $dx$ ，將求和符號(hào) $\sum$ 記為 $\int$ 。積分的實(shí)質(zhì)就是求和。

2.2 線性代數(shù)

2.2.1 矩陣

將 $m \times n$ 個(gè)實(shí)數(shù)排列成如下的矩形數(shù)陣，
${\mathbf A} \equiv \left[ \begin{matrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \vdots & \vdots & \ddots & \vdots\\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{matrix} \right]$
則稱 $\mathbf A$ 為 $m\times n$ 矩陣（matrix）。而且：

$\mathbf A$ 中元素 $a_{ij}$ 表示矩陣 $\mathrm A$ 的第 $i$ 行、第 $j$ 列元素
矩陣 $\mathbf A$ 有時(shí)候也記為 ${\mathbf A}_{m \times n}$ ，以強(qiáng)調(diào)矩陣的維度
如果 $\forall i,j,\quad a_{ij}=0$ ，那么稱 $\mathbf A$ 為零矩陣，記為 $\mathbf 0$
$\mathbf 0$ 在矩陣運(yùn)算中的作用，相當(dāng)于實(shí)數(shù) $0$ 在標(biāo)量運(yùn)算中的作用

2.2.2 方陣、對(duì)稱陣、單位陣

如果 $m=n$ ，則稱 $\mathbf A$ 為 $n$ 階方陣（square matrix），即：
${\mathbf A} \equiv \left[ \begin{matrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \vdots & \vdots & \ddots & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{matrix} \right]$
而且：

稱 $a_{ii}$ 為主對(duì)角線上的元素
稱 $a_{ij}, i\ne j$ 為非主對(duì)角線上的元素
如果滿足 $\forall i,j =1,\cdots,n: a_{ij}=a_{ji}$ ，那么就稱 $\mathbf A$ 為方陣

如果 $\mathbf A$ 為方陣且非主對(duì)角線上的元素均為0，那么就稱 $\mathbf A$ 為對(duì)角矩陣：
${\mathbf A} \equiv \left[ \begin{matrix} a_{11} & 0 & \cdots & 0\\ 0 & a_{22} & \cdots & 0\\ \vdots & \vdots & \vdots & \vdots\\ 0 & 0 & \cdots & a_{nn} \end{matrix} \right]$
更有甚者，如果對(duì)角矩陣 $\mathbf A$ 主對(duì)角線上的元素 上的元素均為 $1$ ，那么稱為單位矩陣，記為：
${\mathbf I} \equiv {\mathbf I_n} \equiv \left[ \begin{matrix} 1 & 0 & \cdots & 0\\ 0 & 1 & \cdots & 0\\ \vdots & \vdots & \ddots & \vdots\\ 0 & 0 & \cdots & 1 \end{matrix} \right]$
${\mathbf I}$ 在矩陣運(yùn)算中的作用，相當(dāng)于實(shí)數(shù) $1$ 在標(biāo)量運(yùn)算中的作用。

2.2.3 轉(zhuǎn)置

如果將矩陣 ${\mathbf A}=(a_{ij})_{m\times n}$ 的行與列交換，就得到了其轉(zhuǎn)置矩陣，記為 ${\mathbf A}^\prime$ ，其維度為 $n\times m$ 。

如果 ${\mathbf A}$ 為對(duì)稱矩陣，那么： $\mathbf A^\prime = \mathbf A$
$(\mathbf A^\prime)^\prime \equiv \mathbf A$

2.2.4 向量、內(nèi)積

向量是矩陣的特例，對(duì)矩陣 $\mathbf A_{m\times n}$ ，如果：

$m=1$ ，稱為行向量（row vector）
$n=1$ ，稱為列向量（column vector）

如無意外，本教材所有向量都是列向量?？疾? $n$ 維向量 $\mathbf a=(a1\,\cdots\,a_n)^\prime$ 和 $\mathbf b=(b1\,\cdots\,b_n)^\prime$ ，定義向量 $\mathbf a$ 和向量 $\mathbf b$ 的內(nèi)積（或點(diǎn)積）為：
$\mathbf a^\prime \mathbf b \equiv [a_1\,a_2\,\cdots\,a_n]\left[ \begin{matrix} b_1\\ b_2\\ \vdots \\ b_n \end{matrix} \right] \equiv a_1b_1 + a_2b_2 + \cdots + a_nb_n = \sum_{i=1}^n a_ib_i$
任何形如 $\sum\limits_{i=1}^n a_ib_i$ 都可以寫成向量內(nèi)積 $\mathbf a^\prime \mathbf b$ 的形式。例如平方和 $\sum\limits_{i=1}^n a_i^2$ 就可以寫成：
$\mathbf a^\prime \mathbf a = \sum\limits_{i=1}^n a_i^2$

2.2.5 矩陣的加法

如果兩個(gè)矩陣維度相同，就可以相加。只需要將對(duì)位的元素加起來就可以了：
$\mathbf{A + B} \equiv (a_{ij})_{m \times n} + (b_{ij})_{m \times n} \equiv (a_{ij} + b_{ij})_{m \times n}$
矩陣加法滿足以下性質(zhì)：

$\mathbf{A +0 = A}$ ：加上 $\mathbf 0$ 不變
$\mathbf{A + B = B + A}$ ：交換律
$\mathbf{(A + B) + C= A + (B+C)}$ ：結(jié)合律
$\mathbf{(A + B)^\prime = A^\prime + B^\prime}$ ：加法轉(zhuǎn)置

2.2.6 矩陣的數(shù)乘

矩陣 $\mathbf{A } = (a_{ij})_{m \times n}$ 與實(shí)數(shù) $k$ 數(shù)乘（scalar multiplication）定義為此實(shí)數(shù) $k$ 乘以任何 $(a_{ij})$ ：
$k\mathbf A \equiv k(a_{ij})_{m \times n} \equiv (k \cdot a_{ij})_{m \times n}$

2.2.7 矩陣的乘法

如果 $\mathbf A$ 的列數(shù)和 $\mathbf B$ 的行數(shù)相同，則可以定義矩陣的乘法： $\mathbf{A \times B} \equiv \mathbf {AB}$ 為：
$\mathbf{(AB)}_{ij} \equiv [a_{i1}\,a_{i2}\,\cdots\,a_{in}]\left[ \begin{matrix} b_{1j}\\ b_{2j}\\ \vdots \\ b_{nj} \end{matrix} \right] \equiv \sum_{k=1}^n a_{ik}b_{kj}$
也即 $\mathbf {AB}$ 是 $\mathbf A$ 第 $i$ 行與 $\mathbf B$ 第 $j$ 列的內(nèi)積有以下性質(zhì)：

一般來說： $\mathbf {AB} \ne \mathbf {BA}$ ，所以要區(qū)分左乘和右乘
$\mathbf {IA=A,\,\, AI=A}$ ：乘以 $\mathbf I$ 不變
$\mathbf {(AB)C} = \mathbf {A(BC)}$ ：結(jié)合律
$\mathbf {A(B+C)} = \mathbf {AB+AC}$ ：分配律
$\mathbf {(AB)^\prime} = \mathbf {B^\prime A^\prime, \, (ABC)^\prime = C^\prime B^\prime A^\prime}$ ：乘法轉(zhuǎn)置

2.2.8 線性方程組

考慮 $n$ 個(gè)方程， $n$ 個(gè)未知數(shù)構(gòu)成的線性方程組：
$\left\{ \begin{align} &a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n = b_1\\ &a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n = b_2\\ &\dots \\ &a_{n1}x_1 + a_{n2}x_2 + \cdots + a_{nn}x_n = b_1\\ \end{align} \right.$
其中， $(x_1 \, x_2 \, \cdots \, x_n)$ 為未知數(shù)。根據(jù)2.2.7的乘法定義，我們記：
$\underbrace{ \left[ \begin{matrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \vdots & \vdots & \ddots & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{matrix} \right]}_\mathbf{A} \underbrace{\left[ \begin{matrix} x_1\\ x_2\\ \vdots \\ x_n \end{matrix} \right]}_\mathbf{x} = \underbrace{\left[ \begin{matrix} b_1\\ b_2\\ \vdots \\ b_n \end{matrix} \right]}_\mathbf$
則上述方程可以簡便地寫成 $\mathbf{Ax=b}$ ，如果 $\mathbf A$ 可逆，則可以求解：
$\mathbf{x = A^{-1}b}$

2.2.9 逆

對(duì)于 $n$ 階方陣 $\mathbf A$ ，如果存在 $n$ 階方陣 $\mathbf B$ 使得滿足 $\mathbf{AB=BA=I}$ ，那么就說 $\mathbf A$ 是可逆矩陣（invertible matrix）或非退化矩陣（nonsingular matrix），而 $\mathbf B$ 是 $\mathbf A$ 的逆矩陣，記 $\mathbf A^{-1}$ ，則：

$\mathbf{(A^{-1})^{-1}=A}$ ：逆的逆是自己
$\mathbf{\det(A) \equiv |A| }\ne 0$ ：非奇異
$\mathbf A^{-1}$ 是唯一的
$\mathbf{(A^{\prime})^{-1}=(A^{-1})^\prime}$ ：求逆和轉(zhuǎn)置可以交換次序
$\mathbf{(AB)^{-1} = B^{-1}A^{-1}, \quad (ABC)^{-1}=C^{-1}B^{-1}A^{-1}}$ ：求逆乘積

2.2.10 秩、線性無關(guān)

一個(gè)關(guān)于秩的不嚴(yán)謹(jǐn)定義：一個(gè)向量組可以表達(dá)的信息的最高維度。

矩陣 $\mathbf A$ 的秩為 $\text{rank}(\textbf A)=n$ 的數(shù)學(xué)意義是一組向量能最多夠表達(dá) $n$ 維空間的信息。

比如，考慮 $n$ 維列向量 $\mathbf a_1$ 和 $\mathbf a_2$ ，如果正巧 $\mathbf a_1$ 是 $\mathbf a_2$ 的固定倍數(shù)，那么在向量組 $\mathbf{\{a_1, a_2\}}$ 中，真正含有信息的其實(shí)只是一個(gè)向量，即這個(gè)向量組至多能夠表達(dá)1個(gè)維度的信息。

更一般地，對(duì) $K$ 個(gè) $n$ 維向量組 $\mathbf{\{a_1, a_2, \cdots,} \mathbf{a}_K \mathbf\}$ 如果存在 $c_1, c_2, \cdots,c_K$ 不全為0，使得：
$\sum_{i=1}^K c_i \mathbf{a}_i = 0$
那么就說向量組 $\mathbf{\{a_1, a_2, \cdots,} \mathbf{a}_K \mathbf\}$ 線性相關(guān)（linearly dependent）。說白了就是，這 $K$ 向量所包含的信息實(shí)際上不足以表達(dá)一個(gè) $K$ 維的空間?；蛘哒f，有一些向量是多余的，因?yàn)樗梢员黄渌蛄勘磉_(dá)出來。反過來，如果有如下邏輯關(guān)系：
$\sum_{i=1}^K c_i \mathbf{a}_i = 0 \Longrightarrow c_1=c_2=\cdots=c_K=0$
那么就說向量組 $\mathbf{\{a_1, a_2, \cdots,} \mathbf{a}_K \mathbf\}$ 線性無關(guān)（linear independent）。也就是說，這 $K$ 個(gè)向量沒有一個(gè)多余，它們誰也不能替代誰，從而在一起可以表達(dá)一個(gè) $K$ 維空間的信息。