2026-11-01 · 研究论文 · 重要性 ★★★
arXiv论文:像素空间Transformer解耦局部细节的SpecSlot架构
Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers 针对像素空间生成Transformer中Patch细化导致全局自注意力序列过长的瓶颈,论文提出了SpecSlot架构。该方案将每个空间锚点展开为多个频带Slot,仅让最低频Slot参与全局注意力交互,高频Slot则进行局部交互,从而将频域细节与全局注意力开销解耦。在ImageNet-512基准上,该模型在降低3.9%计算量的前提下改善了2.
本站仅做聚合整理与摘要展示,版权归原作者所有。

