@Alibaba_Qwen：开源 FlashQLA 高性能线性注意力 Kernel

产品是什么

FlashQLA 是通义千问开源的高性能线性注意力（Linear Attention）Kernel，构建于 TileLang 抽象层之上。它的核心目标不是取代标准 Softmax Attention，而是在需要线性复杂度（O(N) 而非 O(N²)）的场景下提供极致效率。官方公布的 benchmark 数据：前向传播2-3 倍加速，后向传播2 倍加速。

解决什么问题

标准 Transformer 的 Attention 计算量随上下文长度二次增长，这在端侧设备（手机 SoC、座舱芯片、机器人控制器）上是致命瓶颈。FlashQLA 通过线性注意力机制，将计算复杂度降为线性，同时借助 TileLang 的硬件级 Tile 调度，最大化利用端侧芯片的算力。官方特别点名三个受益场景：小模型（≤7B）、长上下文、张量并行。

TileLang 的角色

TileLang 是一个 Tile 级别的算子描述语言，FlashQLA 通过它实现了对不同硬件后端（GPU / NPU）