谷歌工程师Jeremy Kun发文介绍同态加密（HE）编译器项目HEIR的最新进展。HEIR可将普通程序编译为直接在加密数据上运行的程序，计算全程服务器无法获知明文的任何信息，从而实现完全私密的AI推理。文章给出四个预训练模型的编译示例：信用卡欺诈检测模型在单线程CPU上的加密推理耗时约2秒，对比明文执行的0.5毫秒存在约4000倍开销；推荐模型criteo经GPU加速后可在单个H100级显卡上约500毫秒完成，开销收窄至50倍。作者同时坦承现状局限：模型需转换为MLIR中间表示并手动标注；每用户评估密钥高达约40GiB，存储与分发成本制约大规模并发服务；加密LLM推理延迟以每token数秒计，距实用仍远。基于此，作者提出近期适用场景的判断标准：模型复杂度维持在2020年左右水平、通信双方隐私均属关键、并发用户规模可控、服务器无需查看计算输出。符合条件的应用包括工业设备远程诊断、B2B数据分析与特定场景下的生物识别。项目路线图涵盖自研密码学后端、GPU/TPU后端集成、Gentry-Lee等新方案支持，以及面向行业的统一基准测试。
事件分析
本文的稀缺价值在于一线从业者对同态加密落地的坦率评估，跳出了学术界热捧的加密LLM叙事。技术层面，HEIR采用类似LLVM的分层编译架构，基于MLIR打通从模型前端到Lattigo、OpenFHE等多后端的编译链路，这种基础设施化思路与AI编译器生态的演进方向一致。产业层面，性能瓶颈正从计算延迟转向系统工程问题，密钥材料的存储与传输带宽成为新瓶颈，意味着HE落地更依赖硬件加速器与架构协同创新，Niobium、Optalysys等专用芯片公司由此获得明确生态位。后续值得关注的走向包括GPU/TPU后端的成熟进度、新加密方案对密钥体积的优化，以及谷歌是否会在数据中心集成专用HE硬件。整体看，同态加密正从纯密码学研究迈向编译器与系统协同优化的工程化阶段。
核心观点：同态加密的瓶颈正从密码学转向系统工程，编译器与专用硬件将成为隐私AI推理落地的真正杠杆。
原文链接：Hacker News
