具体描述
《研究生非数学类数学系列规划教材•随机过程》主要内容包括：随机过程的基本概念和随机分析、Markov链、时间边续的Markov链、Poisson过程、平稳过程、时间序列分析、布郎运动、随机积分方程和随机微分方程等。含盖了工科院校所需的随机过程的内容，可供高等理工科学校选用。
《随机过程》 第一章：引言与基本概念 本书旨在为读者提供对随机过程这一数学分支的全面而深入的理解。我们将从最基础的概率论概念出发，逐步建立起对随机现象及其演变的数学模型。 1.1 随机现象的描述 自然界和社会中充斥着大量不可预测的现象，例如股票价格的波动、粒子在介质中的布朗运动、通信系统中信号的噪声干扰，以及生物种群数量的变化等等。这些现象，无论其内在机制多么复杂，都可以被抽象为“随机现象”。它们的核心特征在于其结果的不确定性，即在相同条件下，实验可能产生不同的结果。 为了科学地研究这些现象，我们需要一种数学工具来量化其不确定性并描述其随时间或空间的演变。随机过程正是为解决这一问题而生的。它是一种随时间（或空间）演变的随机变量的集合。形象地说，如果一个随机变量是对某个单一随机事件结果的量化，那么一个随机过程则是对一系列相互关联的随机事件随时间展开的完整描述。 1.2 概率论基础回顾 在深入随机过程之前，扎实的概率论基础是必不可少的。本章将简要回顾一些关键概念： 样本空间与事件： 样本空间是所有可能结果的集合，而事件则是样本空间的一个子集。 概率测度： 为每个事件赋予一个0到1之间的数值，表示其发生的可能性。 随机变量： 将样本空间中的结果映射到实数域的函数。根据其取值范围，可分为离散型和连续型随机变量。 概率分布： 描述随机变量取值的概率规律，包括概率质量函数（PMF）和概率密度函数（PDF）。 期望与方差： 度量随机变量的中心趋势和离散程度的统计量。 条件概率与独立性： 描述事件之间相互依赖或独立关系的度量。 随机变量的收敛性： 几种不同意义下的收敛概念，对于理解随机过程的渐进行为至关重要。 1.3 随机过程的定义与表示 一个随机过程 ${oldsymbol{X}(t), t in T}$ 可以被理解为一个索引集 $T$（通常表示时间或空间）上的随机变量的集合。对于每一个固定的时间点 $t in T$，$oldsymbol{X}(t)$ 是一个随机变量。而对于每一个固定的样本（一次特定的观测），${oldsymbol{X}(t), t in T}$ 构成了一个样本函数或轨迹。 索引集 $T$： 可以是离散的（例如，只关注特定时间点上的状态，如 $T = {0, 1, 2, dots}$），也可以是连续的（例如，连续的时间流，如 $T = [0, infty)$）。 状态空间： 随机变量 $oldsymbol{X}(t)$ 的取值范围。状态空间可以是离散的（如整数集），也可以是连续的（如实数集）。 我们通常用多种方式来表示随机过程，例如： 概率分布： 描述在不同时间点上随机变量的联合概率分布。 统计量： 如均值函数 $E[oldsymbol{X}(t)]$ 和自协方差函数 $Cov(oldsymbol{X}(s), oldsymbol{X}(t))$，它们提供了关于随机过程统计性质的重要信息。 1.4 随机过程的分类 随机过程的种类繁多，根据其索引集和状态空间的性质，可以进行如下基本分类： 离散时间、离散状态空间： 例如，计数过程、马尔可夫链。 离散时间、连续状态空间： 例如，某些金融模型中的离散采样。 连续时间、离散状态空间： 例如，泊松过程、连续时间马尔可夫链。 连续时间、连续状态空间： 例如，布朗运动、高斯过程。 对这些不同类型的随机过程进行分类，有助于我们选择合适的分析工具和方法。 1.5 随机过程的应用领域 随机过程在众多科学和工程领域有着广泛的应用，包括但不限于： 通信工程： 信号噪声建模、信道容量分析。 金融工程： 股票价格预测、期权定价、风险管理。 物理学： 布朗运动、统计力学、量子光学。 生物学： 种群动力学、疾病传播模型、基因序列分析。 计算机科学： 排队论、算法分析、机器学习。 运筹学： 库存管理、资源分配、可靠性工程。 第二章：马尔可夫链（离散时间，离散状态空间） 马尔可夫链是随机过程中最基本也是最重要的模型之一，尤其适用于描述那些具有“无记忆性”的离散时间、离散状态系统。 2.1 马尔可夫性质 马尔可夫链的核心在于其“马尔可夫性质”（或称无记忆性）。直观地讲，一个系统的未来状态只取决于其当前状态，而与过去的状态演变过程无关。数学上，对于一个离散时间的随机过程 ${oldsymbol{X}_n, n=0, 1, 2, dots}$，如果对于任意的 $n ge 0$ 和任意的状态 $i_0, i_1, dots, i_{n-1}, i_n, i_{n+1}$，都有： $$P(oldsymbol{X}_{n+1} = i_{n+1} | oldsymbol{X}_0 = i_0, oldsymbol{X}_1 = i_1, dots, oldsymbol{X}_n = i_n) = P(oldsymbol{X}_{n+1} = i_{n+1} | oldsymbol{X}_n = i_n)$$ 这里的 $P(cdot|cdot)$ 表示条件概率。 2.2 状态空间与转移概率 状态空间 $S$： 马尔可夫链所有可能取值的集合，通常是有限或可数无限的。 转移概率 $p_{ij}(n, n+1)$： 表示在时间步从状态 $i$ 转移到状态 $j$ 的概率。即 $p_{ij}(n, n+1) = P(oldsymbol{X}_{n+1} = j | oldsymbol{X}_n = i)$。 2.3 齐次马尔可夫链 在许多实际应用中，转移概率不随时间变化，即 $p_{ij}(n, n+1) = p_{ij}$。这样的马尔可夫链称为齐次马尔可夫链。此时，我们通常只用一个转移概率矩阵 $P$ 来描述系统的演变，其中 $P_{ij}$ 是从状态 $i$ 转移到状态 $j$ 的概率。矩阵 $P$ 的每一行元素之和必须为1，即 $sum_{j in S} p_{ij} = 1$。 2.4 n步转移概率 通过转移概率矩阵的乘法，我们可以计算出经过 $n$ 步后从状态 $i$ 转移到状态 $j$ 的概率，记为 $p_{ij}^{(n)}$。具体而言，如果 $P$ 是一个步转移概率矩阵，那么 $P^n$ 的 $(i, j)$ 元素就是 $p_{ij}^{(n)}$。 2.5 状态的分类 可达性： 如果从状态 $i$ 可以经过有限步到达状态 $j$，则称状态 $j$ 可被状态 $i$ 可达。 互通性： 如果状态 $i$ 和状态 $j$ 相互可达，则称它们互通。互通性将状态空间划分为若干个互通类。 常返态与暂留态： 常返态： 从该状态出发，回到该状态的期望时间是有限的。 暂留态： 从该状态出发，回到该状态的期望时间是无限的。 周期性： 周期为1的常返态（非周期态）： 能够以任意大的概率在任意时间离开又返回。 周期大于1的常返态（周期态）： 只能在特定时间间隔的倍数上返回。 不可约马尔可夫链： 状态空间只有一个互通类，即任意两个状态之间都互通。 2.6 平稳分布 对于一个不可约的、非周期的马尔可夫链，存在一个唯一的概率分布 $pi = (pi_1, pi_2, dots)$，使得： $$pi P = pi$$ 其中 $pi_i$ 是状态 $i$ 的平稳概率，表示系统长期运行后处于状态 $i$ 的概率。这个分布 $pi$ 称为平稳分布。平稳分布反映了系统的长期统计特性。 2.7 应用举例：随机游走 随机游走是最简单的马尔可夫链模型之一。在一个简化的例子中，设想一个粒子在一个数轴上移动，每一步向右移动一个单位的概率为 $p$，向左移动一个单位的概率为 $1-p$。其状态就是粒子所在的位置。通过分析其转移概率矩阵，我们可以研究粒子最终的运动行为，例如它停留在原点的概率，或者它到达某个特定位置的概率。 第三章：泊松过程（连续时间，离散状态空间） 泊松过程是描述单位时间内事件发生次数的最基本模型，常用于建模随机的、独立的事件流，如顾客到达、电话呼叫、放射性粒子衰变等。 3.1 泊松过程的定义 一个计数过程 ${N(t), t ge 0}$ 被称为泊松过程，如果它满足以下条件： 1. 非负整数值： $N(t)$ 是在时间 $t$ 内发生的事件总数，因此 $N(t) ge 0$ 且是整数。 2. 独立增量： 对于任意的 $0 le t_1 < t_2 < dots < t_k$，增量 $N(t_2) - N(t_1), N(t_3) - N(t_2), dots, N(t_k) - N(t_{k-1})$ 是相互独立的随机变量。 3. 平稳增量： 对于任意 $s > 0$，增量 $N(t+s) - N(t)$ 的分布仅取决于 $s$ 的值，与 $t$ 无关。 4. 泊松分布的增量： 对于任意 $s > 0$，增量 $N(t+s) - N(t)$ 服从参数为 $lambda s$ 的泊松分布，即： $$P(N(t+s) - N(t) = k) = frac{(lambda s)^k e^{-lambda s}}{k!}, quad k = 0, 1, 2, dots$$ 这里的 $lambda > 0$ 称为泊松过程的强度或率。 3.2 泊松过程的性质 零增量： $N(0) = 0$。 单位时间内的事件数： $N(t)$ 服从参数为 $lambda t$ 的泊松分布，即 $P(N(t) = k) = frac{(lambda t)^k e^{-lambda t}}{k!}$。 期望与方差： $E[N(t)] = lambda t$, $Var(N(t)) = lambda t$。 到达时间： 两个连续事件到达之间的时间间隔称为等待时间。对于泊松过程，这些等待时间是相互独立的，并且服从参数为 $lambda$ 的指数分布。 3.3 泊松过程的扩展 非齐次泊松过程： 如果事件的发生率 $lambda$ 随时间变化，即 $lambda(t)$，则称为非齐次泊松过程。此时，在时间间隔 $[t_1, t_2]$ 内事件发生的次数服从参数为 $int_{t_1}^{t_2} lambda(u) du$ 的泊松分布。 复合泊松过程： 如果每一次事件的发生都伴随着一个随机的“量”的产生，那么就形成了复合泊松过程。例如，每当有顾客进入商店（泊松过程），他都会购买一定数量的商品（独立于泊松过程的随机变量）。 3.4 应用举例：呼叫中心 假设一个呼叫中心在任意一分钟内接到的电话数量服从参数为 $lambda$ 的泊松分布。那么在 $t$ 分钟内接到的电话数量就服从参数为 $lambda t$ 的泊松分布。这有助于分析中心的资源需求，例如需要多少接线员才能保证服务质量。 第四章：布朗运动（连续时间，连续状态空间） 布朗运动，也称为维纳过程，是描述粒子在流体中因随机碰撞而产生的无规则运动的经典模型。它在金融、物理、生物等众多领域都有着极其重要的应用。 4.1 布朗运动的定义 一个连续时间、连续状态空间的随机过程 ${W(t), t ge 0}$ 被称为标准布朗运动（或维纳过程），如果它满足以下条件： 1. 起始点： $W(0) = 0$。 2. 独立增量： 对于任意的 $0 le t_1 < t_2 < dots < t_k$，增量 $W(t_2) - W(t_1), W(t_3) - W(t_2), dots, W(t_k) - W(t_{k-1})$ 是相互独立的随机变量。 3. 平稳增量： 对于任意 $s > 0$，增量 $W(t+s) - W(t)$ 的分布仅取决于 $s$ 的值，与 $t$ 无关。 4. 高斯分布的增量： 对于任意 $s > 0$，增量 $W(t+s) - W(t)$ 服从均值为0，方差为 $s$ 的正态（高斯）分布。即 $W(t+s) - W(t) sim N(0, s)$。 4.2 布朗运动的性质 连续性： 布朗运动的样本函数几乎处处连续。 轨迹的不可微性： 布朗运动的样本函数几乎处处不可微，这意味着其变化是剧烈的、无平滑过渡的。 期望与方差： $E[W(t)] = 0$, $Var(W(t)) = t$。 自协方差函数： $Cov(W(s), W(t)) = min(s, t)$。 4.3 布朗运动的尺度变换与时间变换 通过对布朗运动进行尺度变换和时间变换，可以得到具有不同性质的维纳过程： 一般维纳过程： ${aW(bt), t ge 0}$，其中 $a$ 和 $b$ 是常数。 带漂移的布朗运动： ${a t + sigma W(t), t ge 0}$，其中 $a$ 是漂移率，$sigma$ 是扩散系数。 4.4 在金融中的应用：Black-Scholes模型 布朗运动是Black-Scholes期权定价模型的核心组成部分。股票价格的随机波动被建模为一种带漂移和随机扰动的布朗运动，这使得我们能够计算出期权的理论价格。 4.5 在物理学中的应用：热运动 布朗运动最初便是用来解释微观粒子在流体中的热运动。它也成为了统计力学中理解分子运动和能量传递的重要模型。 第五章：其他重要随机过程 除了马尔可夫链、泊松过程和布朗运动，还有许多其他重要的随机过程类型，它们在各自的领域扮演着关键角色。 5.1 随机行走（Random Walk） 虽然我们已经在马尔可夫链章节提到了随机行走，但它本身就是一个非常重要的模型，可以有更广泛的定义。例如，高维随机行走、受限区域的随机行走等。 5.2 伽马过程（Gamma Process） 伽马过程是一种与泊松过程密切相关的连续时间、连续状态空间的随机过程，其增量服从伽马分布。它常用于建模等待时间、寿命分析等。 5.3 射过程（Renewal Process） 射过程是一类更广义的计数过程，其中事件发生的时间间隔是相互独立的，并且服从一个共同的、非指数分布的分布。泊松过程是射过程的一个特例。 5.4 高斯过程（Gaussian Process） 高斯过程是一类特殊的随机过程，其任意有限维的联合分布都是多维高斯分布。它在机器学习、统计建模中有着广泛的应用，例如用于函数插值和回归。 5.5 广义二项过程（Generalized Binomial Process） 这种过程描述了在每一步都有一定概率成功的试验，且成功率可能随时间变化。 第六章：随机过程的分析工具与方法 为了深入研究随机过程，我们需要掌握一系列强大的分析工具。 6.1 积分变换与生成函数 拉普拉斯变换（Laplace Transform）： 常用于分析连续时间过程的数学特性，尤其是与指数分布和指数衰减相关的过程。 傅里叶变换（Fourier Transform）： 用于分析平稳随机过程的频率特性。 概率生成函数（Probability Generating Function, PGF）： 主要用于分析离散随机变量和离散时间随机过程的分布。 矩生成函数（Moment Generating Function, MGF）： 用于计算随机变量的矩，并推导其分布。 6.2 状态空间分析 马尔可夫链的图论方法： 利用图的性质来分析状态的连通性、周期性以及平稳分布。 差分方程与微分方程： 对于离散时间过程，可以用差分方程描述状态转移；对于连续时间过程，常用微分方程（如主方程、福克-普朗克方程）来描述其演化。 6.3 模拟与数值方法 对于一些复杂的随机过程，解析解可能难以获得。此时，蒙特卡洛模拟成为一种强大的分析工具。通过大量的计算机模拟，我们可以估计过程的统计量、分布以及概率。 6.4 鞅论（Martingale Theory） 鞅论是研究具有特定条件（如条件期望等于当前值）的随机过程的理论。它在概率论、随机分析以及金融数学中有着核心地位，能够用于证明一些重要的收敛定理和存在性定理。 第七章：随机过程的收敛性 理解随机过程如何在时间和尺度上趋于稳定或某种极限行为至关重要。 7.1 依概率收敛 7.2 依分布收敛（Weak Convergence） 7.3 几乎处处收敛 7.4 $L^p$ 收敛 7.5 中心极限定理与大数定律 我们将探讨各种类型的中心极限定理（例如，独立同分布随机变量的中心极限定理，以及适用于马尔可夫链的中心极限定理）和弱大数定律、强大数定律，它们揭示了大量随机变量平均值的极限行为。 第八章：随机过程的进阶主题 在掌握了基本概念和方法后，我们可以进一步探索随机过程的更高级主题。 8.1 随机微分方程（Stochastic Differential Equations, SDEs） SDEs 是描述随机系统演变的一类重要方程，尤其在金融建模中扮演着核心角色。布朗运动是SDEs中最基本的分散项。 8.2 随机控制（Stochastic Control） 研究在存在不确定性（随机性）的情况下如何做出最优决策的问题。 8.3 随机博弈（Stochastic Games） 研究在存在多个决策者且系统演化具有随机性的情况下，参与者的策略选择和均衡。 8.4 随机过程的估计与推断 当随机过程的参数未知时，我们需要利用观测数据来估计这些参数，并对过程的性质进行统计推断。 结语 《随机过程》这本书将带领读者从基础的概率论概念出发，一步步深入理解各种重要的随机过程模型，掌握分析和解决随机问题的方法，并最终认识到随机过程在现代科学和工程中的广泛影响力和应用价值。本书力求通过清晰的阐述、严谨的推导和丰富的实例，帮助读者建立起对随机现象的深刻洞察力，为进一步的学习和研究打下坚实的基础。
