外观
在信号处理的文献中看到这样的记号 E[s(t)]=T−1∑t=1Ts(t),感到很费解。首先,一个信号被建模成随机过程的实现 (realization)。所谓随机过程可以视为映射
而它的一个实现即 S 在概率空间 Ω 中的采样 ω 点处的值,即 s=S(ω):T→R。也就是说在上面那个求期望的式子中,其实并没有任何随机性存在,因为 s 已经是一个实现,是确定性的函数(时间序列)。
所谓随机过程的期望 E[S] 是指逐点定义的期望 t↦E[St] 的函数,其中 St:Ω→R 是随机过程 S 取 t 时刻的截面得到的随机变量,因而定义上
其中 PS 是随机过程 S 的测度。因此考虑其经验形式, E[S](t)=N−1∑t=1Nsn(t),其中 sn(t)=S(ωn,t) 是随机过程的第 n 个实现。
我们注意到,形式上 E[S](t) 与 E[s(t)] 十分相似,只不过后者是先采样出一条随机过程的路径 s,然后再对路径上所有时间步的值求平均,而前者则是截取随机过程同一时刻的随机变量并采样求平均。特别的,如果我们能说明这两种采样方法相同,就能证明这两种经验均值相同。
若 S 是所谓独立同分布的随机过程,也就是说 {s(t)}t∈T 是一系列由 t 标记的独立同分布的样本,记所依赖的分布为 p。这种性质也被称为随机过程的稳定性 stationary,它意味着 S(ω,t) 的分布与时间无关,也就是说样本 {sn,t}t=1T 与样本 {sn,t}n=1N 都是从 p 中生成的独立同分布样本。那么我们就可以把同一条路径中不同时间步的样本看成是同一时间步采样出来的不同样本,也就是说样本是无时间性的(稳定性即对时间不敏感,即无时间性)。那么就证明了这二者的等价性。在统计物理中,这被称为时间平均与统计平均相等,是平衡态热力学的假设之一。