AMD推出开源本地LLM服务器Lemonade:GPU与NPU双引擎加速
AMD正式发布名为Lemonade的开源本地大语言模型(LLM)服务器。该工具旨在利用AMD的GPU和NPU硬件资源,为用户提供快速、私密的本地AI推理体验。Lemonade的推出不仅是AMD应对英伟达CUDA生态的重要举措,也通过优化异构...
标签索引 / 第 73 页
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
AMD正式发布名为Lemonade的开源本地大语言模型(LLM)服务器。该工具旨在利用AMD的GPU和NPU硬件资源,为用户提供快速、私密的本地AI推理体验。Lemonade的推出不仅是AMD应对英伟达CUDA生态的重要举措,也通过优化异构...
JetBrains AI Assistant 插件近期升级支持了 OpenAI 兼容配置,但用户实测发现其“AI Agent”能力存在严重缺陷。在测试中,用户仅询问一个简单的参数语法问题,插件却向高成本的 gpt-5.4-high 模型发起...
Linux.do 社区传出消息,OpenAI 总裁透露下一代 GPT 模型将对语言风格进行重大修正。一份疑似新版模型(代号 GPT 5.4)的系统提示词显示,新模型将摒弃备受诟病的“伪人味”和讨好式语调,转而采用“冷峻、理性的导师”人设。该...
据科技社区最新消息,谷歌即将官宣其下一代开源大模型 Gemma 4。备受关注的是,新模型的参数量预计将实现 4 倍增长,这一巨大飞跃预示着谷歌在 AI 领域策略的重大调整。此次参数规模的大幅提升,旨在显著增强模型的逻辑推理与多模态处理能力,...
针对科技圈热议的Poe平台定价问题,有用户算了一笔细账:Poe的月卡支付模式实际上自带约33%的返利,叠加特定模型(如GPT-4系列)的额外折扣,其综合调用成本可能比按面值付费的OpenRouter低40%。对于计划自建科研问答大模型平台的...
这篇文章尖锐地批评了当前 LLM 工程化领域存在的一种浮躁现象。作者指出,许多开发者宣称其 AI Agent 方案能带来数量级的效率提升,却往往缺乏严谨的验证数据、对比测试和可解释性。文章将这种由于模型概率性特征导致的“黑盒”乱象比喻为缺乏...
该项目源自团队在 CRM、长文写作等场景的一年生产实践。作者指出,LangChain、CrewAI 等主流框架虽功能丰富,但在生产环境所需的流式生命周期管理、并发隔离、多智能体容错及代码沙箱执行等环节存在短板。新开源的 Agentrail ...
知名AI招聘平台Mercor披露了一起严重的网络安全事件,攻击根源直指广泛使用的开源大模型接口工具LiteLLM。黑客通过入侵LiteLLM项目,利用供应链攻击手段获取了Mercor系统的访问权限。鉴于LiteLLM在连接多种LLM服务中的...
天翼云息壤平台宣布开放2500万Token的免费体验额度,全面支持DeepSeek、GLM、Qwen等主流大模型。该平台最大亮点在于API接口完全兼容OpenAI格式,开发者仅需修改自定义模型ID即可实现无缝迁移,极大降低了测试与切换成本。...
这是一份极具收藏价值的 AI 技术资料。开发者通过爬虫汇总了全球 46 个主流大语言模型的架构图,将其拼接成一张惊人的 9 亿像素全景图。该合集不仅包含国际顶尖模型,更完整收录了 Kimi、MiniMax、Qwen、GLM 等近期热门国产大...