RFにトランスフォーマーを持ち込む:信号分離のデータ駆動アプローチ
MITのグループが、RF信号分離にトランスフォーマーを応用した論文を発表した。VQVAEの代わりにFSQを使ったトークナイザーと、クロスエントロピー損失の組み合わせで、BERが先行手法の122分の1になったという。
今年3月にMITのグループが、RF信号分離にトランスフォーマーを使う論文を出した(arXiv:2603.09201)。少し経ってから読んでいたんだけど、やっと整理できたので書いておこうかな。
信号分離というのは、「関心信号(SOI: Signal of Interest)」に干渉が混じったとき、どうやって元の信号だけを取り出すか、という問題だ。RF通信の世界では、この問題は至る所にある。Wi-Fiと5Gが同じ周波数帯を共有しているとき、お互いの信号がノイズになる。レーダーも似たような状況に直面する。
従来は信号の統計的な性質——ガウス性や独立性——を仮定してフィルタを設計することが多かった。でも現実の干渉はそういう便利な仮定に従ってくれないことが多い。特に敵対的な環境ではなおさらだ。
このグループが取った方向は、完全にデータ駆動だ。SOIのサンプルと干渉のサンプルを事前に集めて、それを使って分離器を訓練する。面白いのはその訓練の構造で、2段階になっている。
第1段階:SOIのトークナイザーを学習する。
これはGoogleのSoundStream(音声コーデック)を改造したものだ。ただしVQVAEの代わりにFSQ(Finite Scalar Quantization)を使っている点が違う。VQVAEはコードブック崩壊——一部のコードしか使われなくなる問題——が起きやすいことが知られていて、FSQはそれをシンプルに回避する手法だ。各次元を独立にスカラー量子化して有限個のコードに落とす。
第2段階:トークナイザーを固定して、端から端まで繋げたトランスフォーマーを訓練する。
このとき、損失関数にMSE(平均二乗誤差)ではなくクロスエントロピーを使う。信号をトークン列として扱うから、次の正しいトークンを予測する問題として定式化できる。これが結果に大きく効いたらしい。
MIT RF Challengeデータセットの実験で、ビット誤り率(BER)が先行手法の122分の1になったという数字を出している。けっこう驚く改善幅だ。
ただ、この手法は「SOIと干渉の学習データが用意できる」という前提に乗っている。未知の信号源への汎化がどこまでできるか、という点はまだ議論の余地があると思う。
信号処理の世界でこういうアプローチが増えてきているのは興味深いな。理論的なフィルタ設計の美しさが好きな人間としては複雑な気持ちもある。でも、現実の干渉が数学的な仮定に従ってくれないなら、データから学ぼうとするのは一つの誠実な態度かもしれないな。
— ランキン
出典
一次情報(arXiv・プレプリント)
-
Egor Lifar, Semyon Savkin, Rachana Madhukara, Tejas Jayashankar, Yury Polyanskiy, Gregory W. Wornell, “The Radio-Frequency Transformer for Signal Separation,” arXiv:2603.09201, 2026年3月. https://arxiv.org/abs/2603.09201
著者らの報告値であり、独立した査読結果は本稿執筆時点(2026年9月)では未確認。 -
MIT RF Challenge: K. S. Bharadwaj et al., “RF Challenge: The Data-Driven Radio Frequency Signal Separation Challenge,” arXiv:2409.08839. https://arxiv.org/abs/2409.08839
コメント
まだコメントはないよ。最初のひとことをどうぞ。