硬核造芯：如何用SystemVerilog在FPGA上重塑AI推理引擎？Talos项目深度复盘
Talos 是一个基于 FPGA 构建的定制化硬件加速器，旨在以极致效率执行卷积神经网络推理。与追求通用性的 PyTorch 等软件框架不同，Talos 采用 SystemVerilog 从底层重写了推理逻辑，通过移除运行时和操作系统开销，...
标签索引 / 第 7 页
边缘计算
这个标签下有 100 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Qwen 3.5系列小型模型发布：原生多模态加持，全面赋能端侧AI
Qwen（通义千问）正式推出3.5系列小型模型，涵盖0.8B、2B、4B和9B四个版本。该系列模型基于统一的Qwen 3.5平台构建，核心优势在于具备原生多模态能力、改进的架构以及扩展的强化学习机制。新模型针对不同场景进行了精准定位：0.8...
告别笨重的Headless Chrome！VMPrint用纯JS打造跨平台完美PDF排版引擎
VMPrint 是一款全新的零依赖纯 JavaScript 排版引擎，旨在彻底解决开发者在使用 Headless Chrome 或传统 HTML-to-PDF 工具时面临的资源消耗大、内存泄漏及布局不一致等问题。通过将“布局计算”与“渲染输...
边缘AI突破：在微型ARM芯片上实现神经网络吉他效果器实时推理
本文记录了一次硬核的嵌入式AI优化实践，成功将Neural Amp Modeler（NAM）神经网络模型移植到Daisy Seed（ARM Cortex-M7）这一微型微控制器上。为了突破硬件算力限制，开发者手写了针对小矩阵优化的GEMM内...
开源项目Timber：将经典ML模型编译为C语言，推理速度飙升336倍
Timber是一款革命性的编译器，能够将XGBoost、LightGBM和scikit-learn等传统机器学习模型直接转化为原生C代码，从而彻底移除Python运行时的开销。基准测试显示，其单样本推理速度比Python快336倍，且模型体...
当AI能一行代码接管机器人：Claude Code实测引发的“天网”焦虑
一位开发者在NVIDIA Jetson设备上轻松部署了Claude Code，发现其能快速理解ROS2机器人工程、修复Bug并编写文档。这种极低的技术门槛引发了作者的深度忧虑：当AI不仅生成代码，还能通过工具链（如OpenClaw）直接向硬...
支持苹果Metal加速！Parakeet.cpp发布纯C++语音识别引擎
一款名为Parakeet.cpp的新型推理引擎在GitHub上发布，它使用纯C++重写了NVIDIA的Parakeet语音识别模型。该引擎利用作者的Axiom张量库，并通过Metal API实现了GPU加速，特别优化了在Mac设备上的本地运...
OsmAnd 发布新一代离线路由引擎：实现百倍提速且存储仅增1%
离线地图应用 OsmAnd 宣布成功重构其路由算法，推出了定制的高速公路层级（HH）路由引擎。面对传统 A* 算法在复杂长距离规划上的性能瓶颈，以及常规收缩层级（CH）算法对存储空间的过度占用，OsmAnd 通过巧妙引入“区域聚类”和“边界...
AI硬件下探：售价399元的对话玩具引发“本地化改造”热议
近日，一款售价399元的AI对话毛绒玩具在技术社区引发关注。该产品具备WiFi连接、发光LED眼及语音对话功能，其商业模式采用“硬件一次性付费+服务订阅制”，仅首月提供不限时对话。由于后续使用受限于“每日精力”，用户推测其成本主要在于后台A...
开源语音AI重磅更新：Moonshine模型精准度超越Whisper v3，专为实时场景优化
Moonshine Voice是一个全新的开源AI语音工具包，旨在解决Whisper在实时语音交互中的高延迟问题。该模型采用流式处理架构，打破了Whisper 30秒固定窗口的限制，支持在用户说话时同步计算，大幅降低响应延迟。官方数据显示，...