Meta推出ExecuTorch,这是PyTorch生态系统中的统一解决方案,专为在移动设备、嵌入式系统和边缘设备上部署AI模型而设计。ExecuTorch已在Meta家族应用中服务数十亿用户,包括Instagram、WhatsApp、Quest 3和Ray-Ban智能眼镜等产品。该方案支持直接从PyTorch导出模型,无需中间格式转换,提供50KB轻量级运行时,支持超过12种硬件后端,包括Apple、Qualcomm、ARM等。开发者可以使用熟悉的PyTorch API部署LLM、视觉、语音和多模态模型,实现从研究到生产的无缝转换。ExecuTorch还支持多种编程语言(C++、Swift、Kotlin)和平台(Android、iOS、Linux、Windows、macOS及嵌入式系统),并提供完整的工具链和文档,使开发者能够轻松实现高性能、隐私保护的设备端AI应用。
原文链接:Hacker News






