打破苹果封印：开发者逆向工程破解 ANE，首次实现神经引擎直接训练神经网络
近日，一个名为“ANE”的开源项目在技术社区引发轰动。开发者通过逆向工程苹果的私有 API，成功破解了 Apple Neural Engine (ANE) 的使用限制，首次实现在该神经引擎上直接运行神经网络的训练过程，而不仅仅是传统的推理加...
标签索引 / 第 3 页
AI芯片
这个标签下有 45 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Meta豪掷数十亿租用谷歌TPU芯片：巨头联手打破英伟达算力垄断
Meta已与谷歌签署一项价值数十亿美元的多年期协议，将租用谷歌的TPU（张量处理单元）用于开发新一代人工智能模型。在全球科技公司疯狂投资AI基础设施的背景下，这一罕见的大厂间深度合作引人注目。Meta此举旨在通过引入谷歌自研芯片来多元化其算...
30人团队豪掷3000万美元打造AI新芯片，每秒2万Token生成速度引爆关注
一款由30人团队研发、耗资3000万美元的新型AI芯片近日引发热议。该芯片专为LLM设计，据称实现了每秒2万Token的惊人生成速度。通过在线平台chatjimmy.ai的实测显示，生成短篇小说几乎是瞬间完成，彻底消除了传统LLM的生成延迟...
推理速度飙至1.5万tokens/s！Taalas“模型上芯片”项目已兼容OpenAI接口
针对Taalas此前展示的“模型上芯片”技术ChatJimmy，社区开发者现已成功为其构建了OpenAI兼容格式的API中转服务。该模型的核心亮点在于其实现了每秒15,726 tokens的恐怖推理速度，相比传统云端生成实现了质的飞跃。通过...
颠覆传统算力？Taalas将大模型“刻入”硅片，视频生成速度或迎质变
针对当前大模型推理成本高昂且速度受限的痛点，芯片初创公司Taalas提出将大模型（LLM）完整“刻”进硅片的激进方案。该技术通过将模型权值直接固化在专用芯片中，绕过通用GPU的存储墙，有望实现计算效率的指数级提升。业界分析认为，若此技术应用...
算力革命？Taalas芯片实现每秒1.7万tokens推理，揭秘LLM“打印”技术
初创公司Taalas发布了一款定制ASIC芯片，成功在Llama 3.1 8B模型上实现了每秒17000个token的惊人推理速度，性能相当于一秒钟生成约30页A4纸内容。该公司宣称其核心技术在于将大模型权重直接“打印”或硬化到芯片架构中。...
Taalas 推出超高速 AI 推理产品 HC1：每秒 1.7 万 tokens，成本功耗大幅优化
AI 硬件领域迎来新突破，Taalas 发布首款产品 HC1，搭载 Llama 3.1 8B 模型。该设备实现了惊人的推理速度，达每用户每秒 17,000 tokens，较现有技术快近 10 倍。同时，HC1 将制造成本降低了 20 倍，功...
Taalas新架构实现每秒1.7万Tokens推理，推动AI走向普及
AI芯片初创公司Taalas发布了一项技术突破，声称其新型架构能够实现每秒17000个Tokens的推理速度，远超当前通用GPU水平。该公司致力于解决大模型部署的高能耗和高成本问题，通过创新的数据流架构打破“内存墙”，将计算与存储深度融合。...
挑战 GPU 霸权：Taalas 推出存算一体 ASIC 芯片，成本暴降 20 倍
多伦多初创公司 Taalas 正式发布首款基于自研 HC1 平台的专用 ASIC 加速卡，通过“存算合一”技术将 Llama 3.1 8B 模型完全硬件化。该方案声称推理吞吐量达每秒 1.7 万 token，成本和功耗较同类 GPU 方案分...
竞品频发新模型，谷歌Gemini何时跟上？市场期待TPU算力转化为模型突破
面对近期OPUS及Codex等竞品模型的版本迭代与性能提升，谷歌Gemini目前的3 Pro版本显得后劲不足。社区讨论指出，谷歌若再不加速，恐在AI大模型竞赛中面临掉队风险。考虑到谷歌自研TPU芯片带来的低成本优势，业界推测Gemini近期...