云聚 AI Token Plan 满 199 减 35 元
port:80 AI Junkie
AI 重度玩家的工程笔记本
DigitalOcean 开发者云
Anyrouter 开放可编程的智能路由
共 51 篇文章

标签:AI推理 第5页

Codex缓存实测:命中率超95%,真实倍率仅3.7倍

本文基于Codex本地会话日志,对包月缓存机制进行了严谨的成本倍率测试。通过分析5个rollout数据,发现缓存命中率高达95.12%,真实倍率降至3.7倍,有效单价约$3.24/1M tokens。报告详细拆解了冷启动与工具密集型场景的成...

赞(0)ToyToy前沿 阅读(482)

AI推理优化:运行时间独立于规则数量

作者通过实验展示,在单通道边界执行模型中,每条记录的运行时间与编译的义务数量无关。这意味着处理JSON等结构化数据时,请求可在昂贵计算(如解析、标记化、模型嵌入)前被丢弃,从而显著减少令牌生成、CPU周期和大规模成本。实验代码已在GitHu...

赞(0)ToyToy前沿 阅读(216)

循环语言模型:AI推理能力新范式

谷歌团队等研究者提出了一种名为Ouro的循环语言模型(LoopLM)架构,将推理能力整合到预训练阶段,而非仅依赖后训练。该模型通过在潜在空间进行迭代计算、引入熵正则化目标函数,并扩展至7.7T token训练数据。实验显示,仅1.4B和2....

赞(0)ToyToy前沿 阅读(235)

松鼠悖论:围着树转圈,却未绕松鼠一圈

一个有趣的逻辑悖论故事:一个人试图通过围着树转圈来观察松鼠,但松鼠总是背对着他。这引发了一场关于’是否围着松鼠转圈’的争论,核心在于如何定义’绕行’的概念。故事中,主人公坚持自己没围着松鼠转,...

赞(0)ToyToy前沿 阅读(220)

本地AI推理实测速度超Gemini 3 flash百倍

在一项性能测试中,本地AI推理系统处理相同问题耗时不到0.1秒,而Google的Gemini 3 flash模型需15秒以上。这一显著差异揭示了本地化推理在速度上的优势,可能加速边缘计算和自动驾驶领域的创新。尽管Gemini在云端复杂任务中...

赞(0)ToyToy前沿 阅读(154)

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。

立即体验 GLM查看套餐价格