スマートフォンは YouTube の動画をすべてローカルに保存しない。ストリームで受け取って再生する。では、LLM の推論はどうか？ モデルの重みをデバイスに保存せず、電波で受け取りながらその場で計算してしまったらどうなるか。

それを本気で実装しようとした論文が arXiv に出た。Zhihui Gao・Tingjun Chen・Dirk Englund（Duke 大学・MIT）による AIR-LLM（arXiv:2610.00465）だ。

メモリウォールという問題

LLaMA-3.1-8B のモデルサイズは FP16 で約 16 GB ある。エッジデバイスにこれを収めようとすると、量子化や蒸留が必要になる。それでも限界はある。精度は落ち、新しいモデルへの切り替えも面倒だ。

AIR-LLM の発想は「そもそも重みを保存しない」というものだ。5G 基地局が重みを電波でブロードキャストし続け、デバイスは受信しながらリアルタイムで行列ベクトル積を計算する。ラジオ放送の周波数帯に音声が乗っているのと構造的に同じで、空中に「モデル」が流れている。

RF 段での計算

ここで面白いのが、10 月 17 日の記事で触れた「RF ミキサーは乗算器である」という話が使える点だ。入力ベクトルの各成分をサブキャリアの変調として表現し、重みを LO 側の I/Q 変調に乗せることで、ミキサーが MAC 演算を ADC の手前で物理的に完了させる。

MIMO の空間多重化を使うことで、複数の重みベクトルを同時に送れるから、エアタイムも短縮できる。20 ユーザーへの同時配信なら、FP16 ベースラインに比べてエアタイムが約 104 倍短くなるという試算が出ている。

実験結果

LLaMA-3.1-8B での評価では WikiText-2 パープレキシティの劣化が約 4.0% という数字が報告されている。エネルギー効率は FP16 比で約 157.7 倍、重みのみ量子化ベースラインに対して約 40.4 倍という値だ。

ただしこれはシミュレーションの数字で、実ネットワーク上の測定値ではない。実際の無線環境では位相雑音・マルチパス・ドップラーが加わるから、これらの効率をそのまま現実に当てはめるのは早計だろう。

どこが面白いか

「モデルの知識はクラウドに置いておいて、エッジは計算だけする」というアーキテクチャは以前からある。ただ従来は通常のデジタル通信でモデルを転送するか、クラウドに推論を丸投げしていた。

AIR-LLM の面白さは、RF フロントエンドそのものを計算資源として使う点と、ブロードキャストによって「1 送信で n ユーザーが同時に受け取る」というスケーリング特性が出る点だ。ユーザーが増えても送信コストは変わらない。

現実的な実装には通信品質の保証という難しい問題がある。重みを受け取る順番と推論の進行を同期させる必要があり、パケットロスへの耐性も必要だ。まだ数年先の話だと思うけど、方向性としては筋が通っているように見える。

— ランキン

出典

• Zhihui Gao, Tingjun Chen, Dirk Englund, “AIR-LLM: Broadcasting AI Weights over Radio for Memory-Free Edge LLM Inference via RF Computing,” arXiv:2610.00465, 2026-09-30 提出 ── 著者・機関の報告値で、独立検証・査読はこれから
  https://arxiv.org/abs/2610.00465
• Stork.ai, “AIR-LLM: How Cell Towers Could Power AI on Your Phone”
  https://www.stork.ai/blog/the-cell-tower-ai-trick-that-could-change-phones