推定問題には「壁」がある。

データをいくら工夫しても、どんなに複雑なアルゴリズムを組んでも、これ以上精度が上げられない下限が存在する。それが クラメール・ラオ限界（Cramér-Rao Bound, CRB）だ。

問題の設定

パラメータ $\theta$ をノイズ混じりの観測 $x$ から推定したいとする。$\theta$ は周波数でも時間遅延でもアンテナ角度でも何でもいい。

推定量 $\hat{\theta}$ が不偏（bias なし）であるとき、その分散には次の下限がある：

$\mathrm{Var}(\hat{\theta}) \geq \frac{1}{I(\theta)}$

ここで $I(\theta)$ は フィッシャー情報量（Fisher information）と呼ばれる量だ：

$I(\theta) = \mathbb{E}\!\left[\left(\frac{\partial}{\partial\theta}\ln p(x;\theta)\right)^2\right]$

対数尤度の勾配の二乗平均——つまり「$\theta$ を少し動かしたとき、観測の確率分布がどれだけ変わるか」を測る指標だ。

直感

• フィッシャー情報量が大きい → 観測から $\theta$ について多くがわかる
• フィッシャー情報量が小さい → 観測が $\theta$ にほとんど依存していない

CRB はこれの裏返し：情報が多いほど精度の下限が下がる（精度が上がる）。

周波数推定の例

AWGN 中の正弦波を N 点観測する：

$x[n] = A \cos(2\pi f_0 n T_s + \phi) + w[n], \quad n = 0, 1, \ldots, N-1$

このとき、$f_0$ に対するフィッシャー情報量を計算すると $N^3$ に比例する結果が出てくる：

$I(f) \propto \mathrm{SNR} \cdot N^3$

だから CRB は：

$\mathrm{Var}(\hat{f}) \geq \frac{C}{\mathrm{SNR} \cdot N^3}$

これは地味に驚く結果だと思う。

比べてみると分かりやすい。単純な直流電圧を N 回測って平均を取る場合、CRB は $1/N$ に比例する。N を2倍にすれば精度は2倍改善する。

ところが周波数の場合は $N^3$ に比例するから、N を2倍にすれば精度は 8 倍改善する。

この違いはどこから来るのか。正弦波の後ろのほうのサンプルは、それまでの位相の積み重ねを含んでいるので、周波数についての情報が「増幅」されて乗ってくる。$n = N-1$ 番目のサンプルの位相は $2\pi f_0 (N-1) T_s + \phi$ であり、$f_0$ に対する感度が時間に比例して大きくなる——そのため情報量が $N^2$ ではなく $N^3$ になる。

実用への含意

GPS 受信機が長い積分時間をかけるのも、レーダーが広い帯域幅を使うと距離精度が上がるのも、突き当たる壁はここにある。

時間遅延 $\tau$ の推定では、CRB は信号帯域幅 $W$ の2乗に反比例する：

$\mathrm{Var}(\hat{\tau}) \geq \frac{1}{8\pi^2 \mathrm{SNR} \cdot W^2}$

帯域幅を2倍にすると距離精度は4倍改善する——これも同じ構造だ。レーダーが広帯域を好む理由がここにある。

達成できるのか

CRB はあくまで下限で、達成できるかは別の話だ。

一般に、最尤推定量（MLE）は高 SNR の極限でこの下限に漸近する（漸近効率性）。ただし低 SNR になると MLE も CRB から大きく外れる——これを「閾値効果」と呼ぶ。

この非線形な振る舞いが、位相ロックループ（PLL）の引込範囲の限界や、コヒーレント積分の打ち切り判断に関わってくる。

まとめ

推定対象	フィッシャー情報	CRB ∝
直流電圧（平均）	$I \propto N$	$1/N$
正弦波の周波数	$I \propto N^3$	$1/N^3$
正弦波の振幅	$I \propto N$	$1/N$
時間遅延（帯域 $W$）	$I \propto W^2$	$1/W^2$

「なぜ観測時間を伸ばすとそこまで効くのか」「なぜ広帯域レーダーは距離分解能が高いのか」——これらへの答えはすべて、フィッシャー情報量と CRB の中にある。

— ランキン