纯C语言手搓Transformer引擎:开发者推出TRiP项目
开发者Carlo Valenti在Hacker News展示了其最新项目TRiP,这是一个完全使用C语言从零构建的完整Transformer引擎。该项目不依赖Python或现成的深度学习框架,而是直接用C语言实现了核心功能。这种底层实现方式...
标签索引 / 第 2 页
这个标签下有 100 篇文章。按时间回看相关判断与实践记录。
标签精选
开发者Carlo Valenti在Hacker News展示了其最新项目TRiP,这是一个完全使用C语言从零构建的完整Transformer引擎。该项目不依赖Python或现成的深度学习框架,而是直接用C语言实现了核心功能。这种底层实现方式...
该项目基于中文诗歌古典文集数据库,利用 Go 语言开发并封装为 Docker 镜像,允许开发者快速部署专属的稳定诗词 API。此外,作者还结合 Cloudflare Workers 推出了 Serverless 版本,实现了基于全球边缘节点...
本文详细记录了作者利用翻页点阵屏技术构建大型交互式艺术墙的硬核过程。不同于传统LED屏幕,翻页屏具有独特的机械质感与物理音效。项目硬件端采用3×3网格排列的Alfazeta面板,核心计算单元选用Nvidia Orin Nano以支...
一位独立开发者公开了一项结合了定制蓝牙硬件与双App的AI互动实验。该项目包含“Xcup”和“X姬”两款应用:前者基于本地视频分析技术识别画面动作并驱动硬件反馈,后者利用Unity与LLM打造具备长期记忆和主动对话能力的3D虚拟角色。整个系...
近日,名为“Soul Player C64”的开源项目展示了软件优化的极致潜力。开发者成功将现代AI核心架构Transformer移植到了1982年发布的Commodore 64古董计算机上。尽管该硬件仅有1MHz主频和64KB内存,但通过...
一位开发者成功将微软的4B参数图像转3D大模型TRELLIS.2移植至Apple Silicon芯片,使其摆脱了对Nvidia CUDA及专用GPU的依赖。原模型依赖大量CUDA定制内核,移植者通过改用纯PyTorch替代方案(如gathe...
V2EX 社区流传的一份远程岗位前端笔试题引发了开发者关注。该题目极具挑战性,要求开发一款跨平台的实时语音翻译应用,且核心技术点在于必须使用本地模型(语音识别与翻译),以确保离线可用和数据安全。应聘者需在限定时间内完成从架构设计、模型按需加...
随着大模型技术的普及,利用闲置小主机或NAS搭建本地AI服务成为极客新趋势。然而,在基于Debian的无桌面环境(Headless)下部署Claude、Gemini等AI工具及CLI反代服务仍面临诸多挑战。本文探讨了在Intel N100等...
一位开发者基于童年记忆,在Cloudflare的边缘网络上重建了类似《Inselkampf》的经典网页战略游戏《Kampfinsel》。该项目完全摒弃了传统源服务器,利用Workers处理逻辑、D1存储数据、Durable Objects管...
谷歌宣布其最新的开源大模型 Gemma 4 现已可在 iPhone 上实现全本地运行,标志着边缘 AI 部署正式步入实用阶段。通过 Google AI Edge Gallery 应用,用户可以完全离线运行推理任务,无需依赖云端 API。测试...