跳到主要内容
赞助推荐 搬瓦工怎么选:三网直连 CN2 GIA-E
赞助推荐 开放可编程的智能路由
赞助推荐 开放可编程的智能路由

标签索引 / 第 5 页

AI推理

这个标签下有 51 篇文章。按时间回看相关判断与实践记录。

标签精选

相关内容

前沿哨所

豆包2.0思维链意外曝光:AI底层推理竟满屏“情绪宣泄”

近日,社区网友在测试字节跳动豆包2.0(Seed 2.0)时,通过调用火山引擎API成功绕过了前端限制,获取了模型被隐藏的真实思维链(CoT)。令人惊讶的是,相比于App和网页端温文尔雅的回答,底层的思维过程充满了拟人化的情绪宣泄,频繁出现...

1 分钟阅读302 阅读
前沿哨所

探讨FORTH语言风格:后缀表示法能否提升大模型推理效率?

这篇文章引发了关于大语言模型(LLM)是否能从类似FORTH语言的后缀表示法中受益的讨论。观点指出,由于当前模型主要基于过程式语言训练,它们在处理栈操作、回溯等概念时,往往会产生逻辑冲突,导致消耗大量Token进行自我修正。这种效率损耗通常...

1 分钟阅读208 阅读
前沿哨所

Qwen3-Max-Thinking发布,跑分对标GPT-5.2与Gemini-3 Pro

阿里通义千问推出最新模型Qwen3-Max-Thinking,引发技术社区热议。据跑分数据显示,该模型性能已追平GPT-5.2和Gemini-3 Pro等业界顶尖水平。多位参与者开始实测其具体能力,尽管普通需求已被现有模型满足,但新版本的出...

1 分钟阅读290 阅读
前沿哨所

Codex缓存实测:命中率超95%,真实倍率仅3.7倍

本文基于Codex本地会话日志,对包月缓存机制进行了严谨的成本倍率测试。通过分析5个rollout数据,发现缓存命中率高达95.12%,真实倍率降至3.7倍,有效单价约$3.24/1M tokens。报告详细拆解了冷启动与工具密集型场景的成...

1 分钟阅读821 阅读
前沿哨所

AI推理优化:运行时间独立于规则数量

作者通过实验展示,在单通道边界执行模型中,每条记录的运行时间与编译的义务数量无关。这意味着处理JSON等结构化数据时,请求可在昂贵计算(如解析、标记化、模型嵌入)前被丢弃,从而显著减少令牌生成、CPU周期和大规模成本。实验代码已在GitHu...

1 分钟阅读251 阅读
前沿哨所

循环语言模型:AI推理能力新范式

谷歌团队等研究者提出了一种名为Ouro的循环语言模型(LoopLM)架构,将推理能力整合到预训练阶段,而非仅依赖后训练。该模型通过在潜在空间进行迭代计算、引入熵正则化目标函数,并扩展至7.7T token训练数据。实验显示,仅1.4B和2....

1 分钟阅读260 阅读
前沿哨所

松鼠悖论:围着树转圈,却未绕松鼠一圈

一个有趣的逻辑悖论故事:一个人试图通过围着树转圈来观察松鼠,但松鼠总是背对着他。这引发了一场关于’是否围着松鼠转圈’的争论,核心在于如何定义’绕行’的概念。故事中,主人公坚持自己没围着松鼠转,...

1 分钟阅读295 阅读
前沿哨所

本地AI推理实测速度超Gemini 3 flash百倍

在一项性能测试中,本地AI推理系统处理相同问题耗时不到0.1秒,而Google的Gemini 3 flash模型需15秒以上。这一显著差异揭示了本地化推理在速度上的优势,可能加速边缘计算和自动驾驶领域的创新。尽管Gemini在云端复杂任务中...

1 分钟阅读196 阅读