 

当前位置：80aj  前沿  正文

旧显卡焕发新生：2080Ti成功部署Qwen 3.6 35B大模型，实测67 TPS与128k上下文

2026-04-26 分类：前沿阅读(371) 赞(2)

一位开发者利用 llama.cpp 成功将 35B 参数规模的 Qwen 3.6-A3B 模型部署到仅 11GB 显存的 RTX 2080Ti 显卡上。得益于 IQ1_M 超强量化技术，该模型实现了 128k 长上下文处理能力，单并发速度达 67 TPS。实测显示，其在 pi-coding-agent 中表现稳定，性能可媲美云端 Step 3.5 Flash，显著优于同规模的 27B 版本。这一案例展示了极致量化技术如何挖掘旧硬件潜力，为关注隐私和成本的用户提供了高性价比的本地大模型解决方案。

原文链接：Linux.do

赞(2)

未经允许不得转载：80aj » 旧显卡焕发新生：2080Ti成功部署Qwen 3.6 35B大模型，实测67 TPS与128k上下文

分享到

2080Ti Qwen3.6 大模型评测本地部署模型量化

前沿哨所

国产 AI 编码套餐计费黑盒实测：阿里 Credits、字节燃料与腾讯积分的真实成本
随着人工智能技术在软件工程领域的落地，国内主流云厂商纷纷推出自家的 AI 编程助手套餐。然而，近期一份针对国内市场的调研报告揭示了当前付费模式中存在的显著痛点：缺乏统一的度量衡与不透明的扣费机制。该调研聚焦于 5-10 人的小型开发团队场景，对比了阿里云、腾讯云及字节跳动旗下的产品。在实际测试与销售沟通中发现，三家厂商采用了完全不同的计费单位：阿里云使用 Credits，腾讯云使用积分，而字节跳动则称为“燃料”。这种非标单位导致用户难以直观评估成本。更为严重的是，扣费规则呈现“黑盒”特征，同样的代码任务在不同平台上的资源消耗差异巨大，偶尔出现单次任务扣除数百度量单位的情况，使得预算控制变得异常困难。为了解决这一难题，调研者尝试将各家的套餐价格统一换算为通用的 Token 成本，并以智谱 AI 的 GLM 模型计费作为参考基准进行横向测算。这一分析表明，尽管国内 AI 编码工具功能日益完善，但在商业化透明度和用户体验上仍有很大提升空间，该报告为技术管理者在采购决策时提供了重要的数据参考。

事件分析

此事件揭示了国内云厂商在 AI 辅助编程工具商业化初期的典型特征：计费体系的割裂与不透明。与国外主流厂商普遍采用标准化 Token 计费不同，国内厂商倾向于使用自创的虚拟货币单位（如积分、燃料、Credits），本质上是构建生态闭环并增加用户迁移成本的策略。这种“黑盒”扣费机制增加了企业用户的预算管理难度，反映出当前行业缺乏统一的技术定价标准。从技术视角看，不同模型的推理成本差异客观存在，厂商通过模糊具体 Token 消耗量，意在平滑模型版本迭代带来的价格波动或追求更高的边际收益。这种不透明性已成为阻碍 AI 编程工具在企业级市场大规模部署的瓶颈，未来市场可能倒逼厂商回归透明的 Token 实付模式，以建立信任并提升开发效率。

💡 核心观点：国内厂商 AI 编码计费单位的各自为政与黑盒化，本质是构建商业壁垒的手段，唯有透明化、标准化的 Token 成本才能真正打动企业开发者。

原文链接：Linux.do
刚刚
张一鸣内部严令禁用AI蒸馏：字节跳动宁可落后也不冒合规风险
据IT之家援引The Information报道，字节跳动创始人张一鸣在7月召开的公司Seed团队全体会议上传达了强硬指令：即使暂时落后于竞争对手，字节跳动也严禁依赖AI蒸馏技术来改进模型。该报道详细解释了“AI蒸馏”的概念，即利用外部先进模型的输出作为训练数据，这是一种能显著降低成本并快速提升模型能力的技术手段。知情人士透露，这一决策主要受限于字节跳动与美国政府因TikTok所有权问题产生的复杂政治关系。近期，美国AI独角兽Anthropic严厉指控DeepSeek、月之暗面、MiniMax、智谱AI以及阿里巴巴等中国企业未经授权蒸馏其Claude模型，引发行业震动。尽管字节跳动此次未被列入指控名单，且一直保持低调，但公司高层显然已决定彻底规避这一潜在的法律与外交雷区，在技术路线的选择上优先考虑合规安全而非短期效率。

事件分析

AI蒸馏技术虽能以低成本快速通过“借力”先进模型提升能力，但在版权和合规层面存在巨大争议。Anthropic对DeepSeek、阿里等企业的指控，表明海外领先AI公司已开始利用技术壁垒进行防御，行业竞争正从单纯的算法算力比拼转向数据源头的法律博弈。字节跳动此次明确放弃这一捷径，并非单纯的技术选择，而是基于地缘政治背景下的生存策略。在TikTok面临美国剥离压力的敏感时期，任何涉及“窃取”或“不当利用”美国技术的指控都可能成为致命打击。这意味着，在当前国际环境下，中国科技巨头在发展AGI时，必须构建独立、清洁的训练数据管道，即便这意味着要付出更高的时间成本和算力成本，也无法再走“灰色地带”的捷径。

💡 核心观点：字节跳动弃速度保合规，折射出地缘政治高压下，中国科技巨头被迫牺牲技术迭代速度以换取生存空间的理性妥协。

原文链接：Linux.do
刚刚
频繁改需求致 AI 代码“返祖”？开发者探讨如何维护上下文一致性
随着 AI 编程工具的普及，越来越多的独立开发者尝试利用大模型完成全栈开发任务。近期，有开发者在 V2EX 社区分享其在开发游戏项目时的实践经验。该开发者作为服务端负责人，利用 AI 进行客户端 Web 代码编写，初始阶段效果显著，AI 不仅完成了预设的技术栈选型和二十余项待办清单，还自动编写了高质量的单元测试，代码质量超出预期。然而，随着项目推进和需求变更的频繁化，问题随之浮现。开发者在向 AI 提出新增功能或修改需求时，发现生成的补丁代码往往无法与原有逻辑完美兼容，导致老功能失效、代码不完备或逻辑互斥。这一现象揭示了当前 AI 编程的一个核心痛点：大模型在处理“增量迭代”时，容易丢失全局上下文或产生幻觉，导致代码质量在多轮对话后出现“返祖”现象。如何在需求变更时通过精准的指令沟通来确保 AI 对历史代码的记忆，已成为提升 AI 辅助开发实际效率的关键挑战。

事件分析

这一现象深刻反映了当前生成式 AI 在复杂软件工程中的“长上下文”短板。虽然大模型在一次性代码生成或独立任务上表现出色，但在涉及复杂状态管理和多次逻辑迭代的项目中，单纯的对话模式难以维护系统的一致性。技术层面，这是由于模型在生成补丁时往往受限于上下文窗口，只能关注当前片段而忽略潜在的级联影响。业界目前的解决方案正从“对话式编程”向“持久化内存”演进。例如，通过 RAG 技术对整个代码库进行索引，或使用支持超长上下文的模型，可以让 AI 在修改代码前主动检索相关联的旧逻辑。这标志着 AI 开发工具正从单纯的“代码生成器”向具备全局视角的“系统架构维护者”转型。

💡 核心观点：AI 编程的痛点已从“生成能力”转移至“迭代稳定性”，具备全局上下文记忆的智能体是破局关键。

原文链接：V2EX 分享发现
刚刚
百度整合办公智能体业务：内部 dodo 并入百度搭子，全面入局 AI 办公
8 月 6 日，百度宣布启动内部办公智能体“dodo”与“百度搭子”团队的全面整合。dodo 相关研发人员及资源将全部并入百度搭子，旨在实现内外部办公智能体产品的完全统一，集中优势资源发力 AI 办公赛道。dodo 原为百度内部研发的办公工具，支持员工通过通讯软件下达指令，完成会议整理、文档处理、邮件查询及代码提交、需求管理等研发任务。百度搭子则是百度于今年 3 月推出的面向个人和企业的专业平台，支持任务拆解、跨应用操作及 Skill 接入（涵盖百度搜索、网盘等能力）。数据显示，百度搭子自上线以来日均提问次数增长 20 倍，并登顶 PinchBench 和 DeepResearchBench 两项评测。整合后，百度搭子将同时服务内部、个人及企业用户，dodo 在知识沉淀、流程执行等方面的实践将注入企业版，进一步提升其组织协作能力。

事件分析

此次整合反映了科技巨头在 AI Agent 落地方面的典型路径：即通过内部高压场景打磨产品能力，验证成熟后反哺外部产品，实现技术降维打击。dodo 在百度内部复杂的研发管理和知识库场景中积累的实践经验，对于提升企业级 Agent 的鲁棒性至关重要。从技术角度看，这一动作强调了“工作流自动化”和“跨应用协作”在当前 AI 应用中的核心地位。单纯的对话式交互已不足以满足办公需求，能够连接底层生态 Skill，并支持私有化知识库与企业级权限管理的 Agent 平台，才是 B 端市场的刚需。百度的此举表明其正在将竞争焦点从大模型基础能力转向垂直场景的工程化落地，试图通过“Agent + 生态”的组合构建竞争壁垒。

💡 核心观点：内部产品外部化是检验 AI Agent 落地能力的试金石，百度此举意在将内部验证过的工程化能力转化为 B 端市场竞争力。

原文链接：Linux.do
刚刚
传 DeepSeek 或将调整价格策略，Pro 正式版发布在即
近期，开发者社区 Linux.do 上出现关于 DeepSeek 即将涨价的讨论，引发技术圈广泛关注。话题内容指出 DeepSeek 可能正在调整其现有的价格策略，社区成员猜测这或许是 DeepSeek Pro 正式版即将发布的信号。DeepSeek 作为近期在 AI 领域极具竞争力的模型，凭借其强大的推理能力和此前极具吸引力的价格策略，迅速占领了市场份额。然而，随着用户基数的扩大和模型调用量的激增，算力成本压力日益凸显。此次关于涨价的讨论，反映了市场对于 DeepSeek 商业化路径的高度关注。虽然目前官方尚未发布正式公告，但社区内部分析认为，通过推出 Pro 版本并进行差异化定价，有助于区分免费与高级服务，从而维持服务的长期稳定性。这一动态也折射出大模型行业在经历了初期的价格战后，正逐渐探索更加可持续的商业变现模式。

事件分析

DeepSeek 此举若属实，标志着其商业模式正在发生关键转折。作为行业内公认的“价格搅局者”，DeepSeek 此前通过极低的 API 调用价格迅速获取了大量用户，但推理模型的算力成本极高，长期低价难以维持。此次潜在的涨价或分层收费（Pro 版），显示出厂商正在寻求覆盖成本与留住用户之间的平衡。从产业影响看，这预示着大模型市场的竞争焦点正从单纯的“参数比拼”和“价格内卷”，转向商业闭环的构建和技术服务的分级。若 Pro 版本在推理速度或上下文窗口上有显著提升，这种分层策略将更有利于服务企业级客户，从而在激烈的 AI 竞争中建立更健康的现金流。

💡 核心观点：大模型不能只靠“烧钱”维持，潜在的涨价标志着行业正从价格战转向追求商业可持续性，服务分层将成为趋势。

原文链接：Linux.do
刚刚
DeepSeek 官网更新：API 服务计划近期大幅涨价，结束此前“白菜价”策略
根据社区监测，DeepSeek 平台官网近期更新了公告内容，其核心服务策略发生了显著变化。此前，页面显示的信息为“API 服务即将采用峰谷定价策略”，暗示将根据负载动态调整价格。然而，最新的页面文本已更改为“计划近期整体上调 DeepSeek API 服务的定价，预计涨幅较大，请合理安排您的使用”。此次变更通过页面 HTML 及资源文件的差异分析被证实，具体涉及前端代码的修改。作为近期在 AI 领域凭借极高性价比和开源策略快速崛起的厂商，DeepSeek 此举被解读为可能调整其商业运营策略。对于依赖其低成本特性进行开发或集成的企业和开发者而言，这一潜在的“大幅涨价”将直接影响运营成本结构，需密切关注官方后续的正式定价方案。

事件分析

此次网页文本变更揭示了 AI 推理服务商业模式的潜在转折点。DeepSeek 此前以极致低价冲击市场，迫使行业重新审视推理成本，但从“峰谷定价”转变为“大幅涨价”的措辞，表明单纯的市场扩张策略可能正面临巨大的算力成本压力。大规模推理的 GPU 资源消耗与低廉的 API 收入之间可能已出现倒挂，促使厂商寻求更健康的毛利水平。这一动向可能标志着 AI 算力服务行业从早期的“价格战”向追求可持续盈利能力的过渡，同时也提醒开发者需警惕对单一低价平台的依赖，在应用架构中预留模型切换或成本控制的灵活性。

💡 核心观点：DeepSeek 拟大幅涨价预示着“赔本赚吆喝”的 AI 价格战正接近尾声，行业回归商业本质。

原文链接：Linux.do
刚刚

旧显卡焕发新生：2080Ti成功部署Qwen 3.6 35B大模型，实测67 TPS与128k上下文

相关推荐

作者介绍

Toy

置顶推荐

前沿哨所

国产 AI 编码套餐计费黑盒实测：阿里 Credits、字节燃料与腾讯积分的真实成本

事件分析

张一鸣内部严令禁用AI蒸馏：字节跳动宁可落后也不冒合规风险

事件分析

频繁改需求致 AI 代码“返祖”？开发者探讨如何维护上下文一致性

事件分析

百度整合办公智能体业务：内部 dodo 并入百度搭子，全面入局 AI 办公

事件分析

传 DeepSeek 或将调整价格策略，Pro 正式版发布在即

事件分析

DeepSeek 官网更新：API 服务计划近期大幅涨价，结束此前“白菜价”策略

事件分析

最新文章

热门专题

热门标签

网站统计