Macro QE 备考 (I): 动态规划

Info

本系列未能完成,只出了两期,因为复习进度太慢,最终换成手写笔记了。且作留恋。

Sequential form and recursive form 

我们只考虑平稳的动态规划问题,「平稳」是说即时收益函数 $u$ 和状态变量的演化约束 $G$ 不显式地依赖于时间 $t$。

有两种表述形式:序列式和递归式,递归式也就是 Bellman 方程。序列式如下:

$$ \begin{align*} V^*(x_0) = \max_{\{x_t\}_{t=0}^\infty} &\quad\sum_{t=0}^\infty\beta^tu(x_t,x_{t+1}), \\ \text{s.t.}&\quad x_{t+1}\in G(x_t), \\ &\quad x_0 \text{ is given.} \end{align*} $$

递归式如下:

$$ V(x) = \max_{y\in G(x)} u(x,y) + \beta V(y). $$

两种形式所确立的值函数是等价的。

欧拉方程 

在以上递归式中,一阶条件为

$$ u_2(x,y) + \beta V'(y) = 0. $$

此外,由包络定理,有

$$ V'(x) = u_1(x,y). $$

假设最优 policy 的函数(因为是平稳的,故不显式依赖于 $t$):$y = \pi(x)$,便有欧拉方程

$$ u_2(x,\pi(x)) + \beta u_1\bigl(\pi(x),\pi(\pi(x))\bigr) = 0. $$

对欧拉方程的直觉解释:增加 $y$ 的边际成本(通常 $u_2 \leq 0$)等于边际收益(未来收益的贴现)。

横截性条件 

横截性条件 (transversality condition) 是动态优化的 必要 条件,它是对满足欧拉方程的候选路径的进一步筛选。具体而言,欧拉方程要求最优路径必定满足:任意边际的偏离(偏离后又回到路径上)都无法获得改进。如果路径终末值是不受限制的,那么可能有很多满足欧拉方程的候选路径,此时,横截性条件的作用就是从这些候选路径中排除(部分)非最优的路径,它要求最优路径满足:任意永久的偏离(偏离后不再回到原路径上)都无法获得改进。

一个形象的例子:从一点到一条直线 $L$ 的最短路径是什么?显然是从该点到直线的垂线段。欧拉方程相当于是说最短的路径必定是直线段,而从一点到直线 $L$ 可作无数条直线。横截性条件则是说在所有这些直线段中,最短路径必定垂直于直线 $L$。

The finite horizon case 

为更好地理解横截性条件,我们首先考虑有限期的动态优化:

$$ \begin{align*} \max_{\{x_t\}_{t=0}^{T+1}}&\quad\sum_{t=0}^T\beta^tu(x_t,x_{t+1}), \\ \text{s.t.}&\quad x_{t+1}\geq0, \\ &\quad x_0 \text{ is given.} \end{align*} $$

关于 $x_{t+1}$ 的一阶必要条件是

$$ \begin{cases} \beta^Tu_2(x_T,x_{T+1}) = 0, & \text{if } x_{T+1}>0, \\ \beta^Tu_2(x_T,x_{T+1}) \leq 0, & \text{if } x_{T+1}=0. \end{cases} $$

两种情况可以合写为

$$ \beta^Tu_2(x_T,x_{T+1})x_{T+1} = 0. $$

这便是横截性条件。它是说,除非增加下一期存量的边际成本为0,否则终末期的存量必定是0。我们把 $x_t$ 对应为资本存量,就更好理解了,在终末期,最优的选择就是,不进行任何储蓄而是把现有的产出全部用作消费。考虑离散 Ramsey 模型:即时效用定义为消费的函数 $u(c_t)$,资本存量的演化服从

$$ k_{t+1} = f(k_t) + (1-\delta)k_t - c_t. $$

将即时效用写作 $k_t$ 和 $k_{t+1}$ 的函数:

$$ u(k_t,k_{t+1}) = u(f(k_t) + (1-\delta)k_t - k_{t+1}). $$

从而横截性条件

$$ -\beta^Tu'(c_T)k_{T+1} = 0. $$

这基本上意味着 $k_{T+1} = 0$,即 $T$ 期全部产出和资本都用于消费,没有储蓄。

The infinite horizon case 

在无限期动态优化中,我们无法像上面那样直接推导出横截性条件,但我们可以基于此合理推广为极限形式:

$$ \lim_{t\to\infty}\beta^Tu_2(x_T,x_{T+1})x_{T+1} = 0. $$

如果结合欧拉方程 $u_2(x_t,x_{t+1})+\beta u_1(x_{t+1},x_{t+2})=0$,我们还有另一种形式:

$$ \lim_{t\to\infty}\beta^Tu_1(x_T,x_{T+1})x_T = 0. $$

它们意味着无穷远期存量的贴现值为0,这表明最优路径上存量不能是过度积累的。


最后修改于 2024-09-04