AI-RAN / O-RAN / NPU 技术讨论笔记

核心结论

• AI-RAN 的本质是通信计算与 AI 计算共平台、共算力、共编排。
• O-RAN 是开放架构，AI-RAN 是通智融合技术路线，二者可以结合但不等同。
• 在 O-RAN 上加入 AI 算法不一定就是完整 AI-RAN，只有涉及 RAN 与 AI workloads 共平台承载时，才更接近 AI-RAN。
• GPU 是当前 AI-RAN 最成熟的实现路线。
• NPU 是面向国产化、边缘化、AI 推理和 Comm + AI 共平台的重要路线。
• NPU 的价值不是全面替代 GPU，而是验证国产 AI 加速器能否成为通信-AI融合计算载体。GPU更看通用性，NPU更看专用优化。
• 通信 L1 链路张量化、算子图化后，有机会发挥 NPU 在能效、稳定时延、片上数据复用和系统级集成方面的优势。
• 将完整 L1 部署到 NPU，并通过 USRP 实现真实空口收发，可以作为 NPU-based AI-RAN 的关键系统验证成果。

AI-RAN 的核心逻辑

AI-RAN 的核心不是简单地“在通信系统里加入 AI 算法”，而是将 RAN workloads 和 AI workloads 放在统一的加速计算基础设施上共同承载。

未来 6G 网络有两类算力需求：

• RAN 本身需要 AI-native 技术提升频谱效率、能效、覆盖、调度、感知、运维等能力。
• 网络边缘需要承载大量非通信 AI 应用，对低时延、高可靠、边缘算力提出需求。

因此，传统 RAN 基础设施会从单一通信设备演进为 通信 + AI + 边缘云 的统一平台。

AI-RAN 的关键目标：

• 通信计算与 AI 计算共平台。
• RAN workloads 与 AI workloads 共算力。
• 在满足通信实时性和 SLA 的前提下进行资源动态编排。
• 将基站侧/边缘侧基础设施从通信专用设备升级为通智融合算力平台。

在 O-RAN 上加入 AI 是否可以称为 AI-RAN

较严谨的划分如下：

情况	更准确表述
只是在 xApp/rApp 中加入 AI 算法	AI-enabled O-RAN
用 AI 优化通信性能	O-RAN-based AI-for-RAN
通信链路与 AI workload 共平台部署	O-RAN-based AI-RAN
同一基础设施同时承载 RAN 与边缘 AI 应用	AI-and-RAN / AI-on-RAN

结论：

• 单纯加入 AI 优化算法，最好称为 AI-enabled O-RAN 或 AI-for-RAN。
• 如果涉及通信与 AI 共平台、共算力、共编排，则可以更有底气称为 AI-RAN。

AI-RAN 的三类内涵

类型	含义	核心关注
AI-for-RAN	用 AI 优化 RAN 本身	信道估计、均衡、波束管理、调度、功控、节能、干扰管理
AI-and-RAN	RAN 和 AI workloads 共享同一加速基础设施	资源编排、算力共享、负载动态分配
AI-on-RAN	RAN 边缘基础设施承载 AI 应用	机器人、XR、工业视觉、边缘推理、车联网

推荐表述：

未来 6G 网络不仅需要用 AI 优化无线通信本身，还需要承载大量边缘 AI 应用。因此，RAN 基础设施不再只是通信设备，而会逐渐演进为通信与 AI 融合的边缘智能算力平台。AI-RAN 的核心思想，就是在同一套加速计算基础设施上同时承载 RAN workloads 和 AI workloads，并通过智能编排在通信需求和 AI 计算需求之间动态分配资源。

需要强调的边界：

• RAN workload 具有强实时性，资源不能被 AI 任务随意抢占。
• AI-RAN 的资源共享必须以满足通信实时性、可靠性和 SLA 为前提。
• 更严谨的说法是：在保障通信实时性的基础上，对可弹性算力进行动态编排。

GPU / NPU / TPU 对比

平台	主要优势	主要不足	更适合的任务
GPU	通用并行计算强，软件生态成熟，峰值性能高	功耗、成本、国产化、边缘部署压力较大	Cloud RAN、vRAN、AI-RAN 原型、大规模并行计算、AI 训练/推理
NPU	能效高，适合张量/矩阵/向量计算，适合边缘 AI，国产生态优势明显	通用性和软件生态通常不如 GPU，传统通信算子需要重构适配	AI 推理、AI-for-RAN、张量化 L1 链路、国产 AI-RAN
TPU	面向机器学习训练/推理的大规模矩阵计算	生态主要绑定 Google Cloud，不适合本地实时通信链路	云端 AI 训练/推理、大规模机器学习 workload

总体排序：

• 如果做通用通信链路原型：GPU 最成熟。
• 如果做国产化、边缘化、Comm + AI 共平台验证：NPU 有独特价值。
• 如果做本地实时 L1 + USRP 链路：TPU 不合适。

为什么选择 NPU，而不是 GPU / TPU

核心回答：

我们选择 NPU，并不是认为 NPU 在所有场景下全面优于 GPU，而是为了验证国产 AI 加速平台是否能够从单纯 AI 推理加速器扩展为通信-AI融合计算载体，从而形成 NPU-based AI-RAN 的底层实现路线。

主要理由：

• GPU-based AI-RAN 是当前国际主流路线，尤其以 NVIDIA 为代表；NPU-based AI-RAN 是面向国产 AI 算力生态的重要补充路线。

• 通信 L1 链路包含大量并行向量、矩阵、张量计算，具备映射到 NPU 的计算基础。将 L1 链路部署到 NPU，本质是探索 communication as tensor computing。

• NPU 更贴近国产化、边缘部署、AI 推理和未来通信-AI共平台的目标。

NPU 的性能优势与边界

NPU 的优势不应表述为“所有通信算子都比 GPU 快”。更准确的说法是：

NPU 的性能优势主要体现在通信链路被张量化、算子图化之后，在系统级能效、端到端时延稳定性、边缘部署和 Comm + AI 共平台运行方面可能形成优势。

NPU 可能有优势的方面：

• 性能/功耗比。
• 性能/成本比。
• 性能/体积比。
• 固定算子流水线效率。
• 静态计算图下的稳定执行时延。
• 片上数据复用。
• 算子融合。
• 低精度/混合精度计算。
• 通信和 AI workload 共平台执行。

需要承认的边界：

• GPU 的通用性、软件生态、成熟库和峰值吞吐更强。
• FFT 等传统 DSP 算子在 GPU 上可能更成熟。
• NPU 的优势依赖通信链路是否被合理张量化、算子化和图优化。
• 不应说 NPU 全面优于 GPU，应强调 NPU 在特定系统目标下的独特价值。

NPU 为什么可能在能效和时延上有优势

能效优势来源：

• NPU 面向张量、矩阵、向量计算进行专用设计。
• 专用计算单元减少通用硬件开销。
• 片上 buffer 和局部存储有利于数据复用。
• 低精度计算有利于降低功耗、提升吞吐。
• 边缘 AI 场景更关注长期运行下的性能功耗比。

时延优势来源：

• 通信 L1 帧结构和处理流程相对固定，适合静态图编译。
• 静态执行模式有利于降低调度抖动。
• 算子融合可以减少中间结果反复写回外部内存。
• 固定流水线有利于获得稳定端到端时延。

关键结论：

NPU 的优势不是天然来自“它叫 AI 芯片”，而是来自把通信链路重构为适合 NPU 执行的静态计算图和数据流。

减少异构平台切换和数据搬运开销的含义

异构平台切换指数据在 CPU、GPU、NPU、FPGA、DSP、主机内存、外设接口之间反复移动和同步。

每次平台切换通常带来：

• 内存拷贝。
• DMA 传输。
• Runtime/驱动调用。
• 同步等待。
• 数据格式转换。
• cache / buffer 失效。
• 中间结果写回和重读。

降低数据搬运开销的核心目标：

让 IQ 数据进入 NPU 后，在同一平台上连续完成多个 L1 模块，使中间结果尽量保留在片上 buffer 或局部存储中，减少外部内存访问和跨平台同步。

系统意义：

• 不只是证明 NPU 能跑某个通信模块。
• 更重要的是证明 USRP → NPU → 完整 L1 实时解调 的端到端链路可行。
• 这体现的是系统级时延、能效和工程实现价值。