147、NPU的编译器开发：LLVM后端开发基础

NPU的编译器开发：LLVM后端开发基础从一次深夜调试说起凌晨两点，我盯着屏幕上那个诡异的“非法指令”错误，CPU的寄存器值已经翻来覆去看了十几遍。问题出在我们自研NPU的向量指令——明明在仿真器里跑得好好的，一上FPGA就崩。最后发现是LLVM后端生成的指令编码中，一个立即数偏移量被错误地截断了高位。这个bug让我意识到，很多做NPU的工程师把精力都花在硬件架构上，却低估了编译器后端开发的复杂度。如果你正在为NPU开发LLVM后端，或者准备入这个坑，这篇笔记或许能帮你少熬几个夜。LLVM后端到底在干什么很多人以为编译器后端就是把中间表示（IR）翻译成机器码，这没错，但太笼统。对于NPU这种非通用处理器，后端要处理的事情更具体：指令选择：把LLVM IR中的操作映射到NPU的指令集。比如一个add操作，是映射到标量加法器还是向量MAC单元？这取决于你的硬件设计。寄存器分配：NPU通常有特殊的寄存器文件，比如向量寄存器、累加器、权重缓冲区。通用寄存器分配算法在这里经常水土不服。指令调度：NPU的流水线往往比CPU更深，而且有显式的DMA操作。调度器必须理解哪些指令可以并行，哪些必须等待数据就绪。编码发射：把抽象指令变成二进制码，这一步最容易出我开头遇到的那种偏移量截断问题。