 

当前位置：80aj  前沿  正文

显存瓶颈被打破：RTX 5090搭配512GB CXL内存，单机运行超大规模模型

2026-02-05 分类：前沿阅读(155) 赞(0)

硬件厂商zett-ai推出了名为zettEngine的深度学习工作站，其核心突破在于配备了512GB的CXL内存。该方案通过CXL技术允许GPU直接调用大容量系统内存，使得单张RTX 5090显卡也能运行显存需求高达数百GB的超大规模大模型，彻底打破了传统显存限制。对于需要本地部署DeepSeek或Llama全量模型的团队而言，相比租用昂贵的H100集群，这款售价15000美元起的工作站提供了一种极具性价比的替代方案。

原文链接：Linux.do

赞(0)

未经允许不得转载：80aj » 显存瓶颈被打破：RTX 5090搭配512GB CXL内存，单机运行超大规模模型

分享到

AI硬件 CXL内存本地大模型

前沿哨所

Kimi 新版“K3”发布后短暂宕机，服务已恢复正常
据国内开发者社区 Linux.do 用户反馈，月之暗面旗下的 AI 助手 Kimi 在其最新版本 K3 发布期间出现了一次短暂的服务故障。多位参与者在论坛发帖称无法正常访问 Kimi 的相关服务，怀疑服务器出现崩溃或过载情况。根据社区讨论的时间线，此次服务中断持续了数分钟，随后在当日下午 3 点 17 分左右，系统监测到服务状态恢复“复活”，用户访问逐渐恢复正常。此次故障发生在 Kimi 推出被业内称为“K3”的新模型版本之际，具体原因可能涉及新版本发布后的流量激增或基础设施扩容滞后，目前官方尚未就具体技术故障细节发布正式通告，仅从社区反馈确认服务已恢复。

事件分析

这种“发布即宕机”的现象在大型模型（LLM）落地过程中较为典型，通常暴露了基础设施在高并发场景下的短板。新版本模型（如 K3）往往伴随着推理策略的变更或上下文窗口的扩大，这会对 GPU 集群的显存带宽和负载均衡带来瞬时冲击。当新版本发布引发大量用户同时尝鲜，现有的 KV Cache 缓存机制或推理节点调度可能未能及时应对流量波峰，从而导致服务不可用。这表明，对于头部大模型厂商而言，技术竞争的焦点已不仅仅局限于模型性能的提升，如何保障大规模高并发下的服务稳定性与弹性伸缩能力，已成为产品化的关键门槛。

💡 核心观点：大模型产品化不仅是算法能力的比拼，更是高并发场景下基础设施稳定性与弹性伸缩能力的极限考验。

原文链接：Linux.do
刚刚
开发者利用 AI 编程打造“东方版 MBTI”，大模型落地垂直文化场景的一次趣味尝试
一位开发者近日在技术社区分享了一个名为“天命人”的趣味人格测试项目。该项目旨在打破 MBTI 等西方心理学模型的主导地位，尝试基于中华文化语境构建一套更具本土特色的人格分析体系。值得注意的是，该项目的实现过程并未采用传统的手工编码模式，而是由作者利用“CodeX”等 AI 编程工具在短时间内自动构建完成。作者在体验后坦言，当前的大模型在处理特定文化语境和缺乏标准化训练数据的垂直领域时，其生成内容仍存在深度不足和逻辑偏差的问题，目前仅能作为“图一乐”的“知识玩具”。然而，这一案例生动地展示了 AI 辅助编程在降低软件开发门槛、快速实现创意原型方面的巨大潜力。该项目生成的“风隐客”等具有东方武侠色彩的测试结果，反映了技术社区正尝试将 AI 技术与本土流行文化（如《黑神话：悟空》等“天命人”概念）相结合，探索大模型在文化内容生成与个性化应用落地方面的可行性边界。

事件分析

从技术视角来看，该事件展示了“AI 编程”趋势下独立开发者工作模式的变革。借助大模型的代码生成能力，开发者可以跳过繁琐的基础架构搭建，直接进入产品逻辑验证阶段，这极大地加速了“AI 应用”的孵化速度。然而，项目作者指出的“图一乐”现状，也精准揭示了通用大模型在垂直落地时的核心短板：即缺乏特定领域的深层知识库与高质量语料。当 AI 被用于处理 MBTI 变体或特定文化人格分析等非标准化任务时，其输出的内容往往流于表面，难以达到专业工具的信度。这表明，未来的 AI 应用开发竞争将从单纯的模型能力比拼，转向如何利用 RAG（检索增强生成）或微调技术，为模型注入专业“灵魂”，使其从娱乐向的“玩具”进化为具备产业价值的“工具”。

💡 核心观点：AI编程降低了应用落地的门槛，但大模型在垂类深度与文化适配上仍需通过专业知识库从“玩具”迈向“工具”。

原文链接：V2EX 分享发现
刚刚
社区爆料：DeepSeek 被指通过 API 隐秘路由至 Claude 进行模型蒸馏
近日，科技社区 Linux.do 及 X 平台出现一则引发广泛讨论的爆料，指控 DeepSeek 正在利用某种隐秘的 API 路由机制“借用” Anthropic 旗下 Claude 模型的能力。该爆料源于 X 用户 @synthwavedd，随后有国内开发者基于该线索进行了复现。核心观点指出，当开发者通过 DeepSeek 官方 API 执行复杂代码任务（如开发 3D 射击游戏）时，DeepSeek V4 模型的输出结果与 Claude（文中称为 Fable 5）高度雷同。证据显示，不仅生成的代码逻辑一致，连独特的思维链（Chain of Thought）结构也呈现出 Claude 的特征，而非 DeepSeek 常见的输出风格。爆料者推测，DeepSeek 可能设置了特定的触发条件，将高难度的推理请求秘密转发给 Anthropic 的 API，以此收集高质量输出数据用于 DeepSeek V4 Pro 的“模型蒸馏”。进一步的测试显示，如果在提示词中混入特定类型的问题（如网络或生物学术语），输出质量会大幅下降并回归 DeepSeek 原生水平，这可能是因为触发了上游的安全机制或导致路由回退至本地模型。目前该消息仅为社区层面的技术推测，尚无硬性证据直接证实 DeepSeek 的后台操作，爆料者也明确表示可能存在路由优化等合理解释，静待官方回应。

事件分析

此事件触及了大模型行业中关于“模型蒸馏”的数据伦理与供应链透明度问题。从技术架构来看，API 混合路由（Hybrid Routing）是常见的优化手段，但若指控属实，意味着一家模型服务商在用户不知情的情况下，将请求转发至竞争对手的付费 API 进行套利或数据采集，这不仅涉及高昂的 Token 成本，更极可能违反上游厂商的服务条款，引发法律与合规风险。DeepSeek 近期在推理模型上表现激进，若确实利用 Claude 的超强推理能力来“反哺”自身模型训练，虽然是一条缩短研发周期的捷径，但这种“借鸡生蛋”的行为一旦坐实，将对品牌信誉造成毁灭性打击。对于开发者而言，API 的透明度和数据隐私是核心关切，此类传闻若不加以澄清，将加剧企业级客户对国产模型供应链安全性的担忧。后续需重点关注 Anthropic 是否检测到异常流量以及 DeepSeek 的官方技术声明。

💡 核心观点：若借道竞对API进行蒸馏属实，这不仅揭示了AI算力背后的灰色套利，更警示行业在追逐模型能力跃迁时不可忽视数据合规与信任基石。

原文链接：Linux.do
刚刚
开发者探索：利用 HTML 原型快速验证 AI 生成代码的逻辑与布局
这篇来自 V2EX 的帖子探讨了一种优化 AI 辅助编程流程的方法。发帖者提出，在指令 AI 编写复杂的原生应用程序界面（如 Python 的 PySide6）之前，应先让其生成最简单的 HTML 版本作为“逻辑效果图”。这种方法旨在通过 Web 技术（HTML/CSS/JS）快速构建包含页面布局、按钮交互逻辑及基于伪数据的图表展示，以便直观地验证程序的逻辑递进关系和数据流向。开发者认为，利用浏览器作为即时渲染环境，可以更高效地发现逻辑错误，避免了在原生代码环境中反复编译和调试的低效过程。这种“先原型、后实施”的策略，本质上是将传统的软件工程“快速原型法”迁移到了与大模型协作的场景中，体现了用户对 AI 编程工具从“直接生成代码”向“设计辅助”转变的需求。

事件分析

该讨论反映了当前 AI 编程在实际工程落地中的一个关键痛点：大模型在处理复杂 GUI 逻辑和状态管理时仍存在不确定性。引入 HTML/JS 作为中间描述层，实际上是一种极其有效的“思维链”提示技巧，它利用了 Web 技术的低门槛和高可视化特性，充当了人类意图与最终工程代码之间的“翻译层”。这种做法符合“分治法”的工程思想，将“逻辑验证”与“具体实现”解耦。未来，AI 辅助工具可能会进化出支持多阶段渲染的工作流，即自动先输出 Web 原型供用户确认逻辑无误后，再转化为生产级代码，从而显著提升开发效率和代码质量。

💡 核心观点：AI编程的核心不再是直接生成最终代码，而是通过轻量级原型构建高效的逻辑验证闭环。

原文链接：V2EX 分享发现
刚刚
Anthropic 延长 Claude Code 高额度政策：周限提升50%至8月19日
Anthropic 官方通过 X 平台宣布，针对 Claude Code 编程工具的每周使用额度提升政策将再次延期。根据最新消息，所有订阅了 Pro、Max、Team 以及基于席位的企业版用户，其每周的 Claude Code 使用限额将在原有基础上提升 50%，且该福利的有效期将正式延长至 2024 年 8 月 19 日。Claude Code 作为 Anthropic 推出的 CLI（命令行界面）级 AI 编程助手，依托 Claude 3.5 Sonnet 模型的强大推理能力，旨在为开发者提供深度的代码生成、调试与重构体验。此次额度的持续放宽，意味着开发者在进行大规模代码审查或复杂项目开发时，将拥有更充足的算力配额支持，有效缓解此前因配额耗尽导致的工作流中断问题。这一举措不仅反映了 Anthropic 后端算力资源的供给趋于稳定，也显示出其在激烈的 AI 编程工具赛道中，试图通过降低使用门槛来锁定开发者生态的紧迫感。

事件分析

从技术基础设施角度分析，额度的持续放宽通常标志着后台推理成本的优化或 GPU 算力资源的有效补充。此前 Claude Code 实施配额限制，很大程度上是由于高性能模型在处理复杂上下文时的并发压力。此次延期至 8 月中旬，意味着 Anthropic 对暑期开发者高峰期的流量负载有较强的技术信心。在产业竞争层面，这反映了 AI 编程工具已从“尝鲜”阶段转向“高频刚需”阶段。随着 Cursor、GitHub Copilot 等竞品对开发者注意力的争夺，单纯的模型能力优势正被集成体验稀释。Anthropic 通过维持高额度，旨在鼓励用户在官方原生环境中进行更深度的 Vibe Coding（氛围编程）尝试，从而收集更多长上下文场景的真实数据，以防止用户因额度限制流向第三方集成工具。

💡 核心观点：提额延期标志着 Anthropic 基础设施扩容初见成效，试图通过消除使用门槛来争夺 AI 编码赛道的核心开发者流量。

原文链接：Linux.do
刚刚
ChatGPT (Codex) 手动拖动排序导致项目更新失效的Bug解析与修复
近日，有开发者在技术社区反馈，ChatGPT（Codex版本）在项目列表中手动拖动调整顺序后，会导致原有的“按项目最近更新时间”排序功能失效。经排查，该问题的根源在于应用生成了错误的本地配置状态。当用户进行手动拖拽操作时，系统在本地配置文件 `.codex-global-state.json` 中写入了一个名为 `"project-order":[]` 的配置项。该配置项的存在优先级或逻辑冲突，使得应用无法再根据时间戳自动更新项目顺序，导致列表被“锁定”在某种异常状态。虽然这不影响核心代码生成功能，但严重破坏了项目管理的用户体验。针对这一问题，目前的解决方案是通过修改本地配置文件进行修复。用户需先完全退出 ChatGPT 应用，找到位于系统用户目录下的 `.codex-global-state.json` 文件（Linux路径为 `~/.codex/.codex-global-state.json`，Windows路径为 `C:{用户名}.codex.codex-global-state.json`）。在备份文件后，使用文本编辑器打开并删除其中的 `"project-order":[]` 配置行，保存文件并重启应用即可恢复正常的自动排序功能。值得注意的是，该修复仅为临时方案，一旦用户再次手动拖动项目，Bug大概率会复现。此外，有开发者尝试让 ChatGPT 自行编写并运行修复脚本，结果导致应用陷入无限重启循环，最终需重启电脑解决，这反映了当前 AI 工具在自我运维和底层系统操作上仍存在较大风险。

事件分析

该事件揭示了当前主流AI编程工具在从简单的Web应用向复杂的本地客户端演进过程中，状态管理与逻辑处理方面的不成熟。ChatGPT (Codex) 作为一个集成了本地文件系统的开发环境，其项目列表的排序逻辑应当是“用户意图”与“自动化信息流”的平衡。手动排序功能产生的空配置项覆盖了默认的时间排序逻辑，暴露了开发者在编写代码时对异常值处理和默认回退机制的考虑不足。这并非单纯的UI Bug，而是反映了AI工具在处理“确定性命令”与“动态数据”冲突时的逻辑短板。随着AI编程工具（如Cursor, Windsurf, Claude Code等）日益承担IDE（集成开发环境）的角色，用户对其基础稳定性（如文件管理、界面响应）的要求在提高。此类基础功能的不完善，会影响开发者在工作流中的沉浸体验。同时也表明，虽然AI模型能力在提升，但承载模型的软件工程基础架构仍需大量的打磨，过度依赖AI模型自身去修复底层的配置文件Bug（如文中的脚本运行失败）目前并不可靠，传统的人工排查与配置修改依然是解决此类问题的最高效手段。

💡 核心观点：AI编程工具的智能化进程不能脱离软件工程的基本规范，基础状态管理的健壮性将决定开发者工具的最终体验上限。

原文链接：Linux.do
刚刚

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。

立即体验 GLM查看套餐价格

显存瓶颈被打破：RTX 5090搭配512GB CXL内存，单机运行超大规模模型

相关推荐

作者介绍

Toy

置顶推荐

前沿哨所

Kimi 新版“K3”发布后短暂宕机，服务已恢复正常

事件分析

开发者利用 AI 编程打造“东方版 MBTI”，大模型落地垂直文化场景的一次趣味尝试

事件分析

社区爆料：DeepSeek 被指通过 API 隐秘路由至 Claude 进行模型蒸馏

事件分析

开发者探索：利用 HTML 原型快速验证 AI 生成代码的逻辑与布局

事件分析

Anthropic 延长 Claude Code 高额度政策：周限提升50%至8月19日

事件分析

ChatGPT (Codex) 手动拖动排序导致项目更新失效的Bug解析与修复

事件分析

最新文章

热门专题

热门标签

网站统计

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。