大模型面试100问02:训练与优化篇
TL;DR 全参数微调一个7B模型要14GB显存,65B模型要130GB——普通人根本玩不起。但LoRA只需要0.1%的参数,QLoRA更狠,单张24GB显卡就能训65B模型。本文从10个高频面试题入手,带你搞懂大模型训练的核心技术:LoR...
标签索引 / 第 196 页
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
TL;DR 全参数微调一个7B模型要14GB显存,65B模型要130GB——普通人根本玩不起。但LoRA只需要0.1%的参数,QLoRA更狠,单张24GB显卡就能训65B模型。本文从10个高频面试题入手,带你搞懂大模型训练的核心技术:LoR...
TL;DR 面试官问你Transformer原理,你能答到什么深度?本文从12个高频面试题入手,带你搞懂大模型的底层架构——不是背概念,是真正理解为什么GPT用单向注意力、LLaMA为什么选RoPE、多头注意力到底在干什么。读完这篇,你能用...
大模型面试100问:从基础到实战的完整指南 为什么需要这个系列? 大模型面试不是背八股文——面试官要的是系统性理解和实战经验。市面上的面试题要么太碎片化(100个孤立问题),要么太理论化(只讲公式不讲应用)。 这个系列不一样: ✅ 系统化:...
AI Selector是一款开源通用AI配置组件,帮助开发者快速接入20+主流AI厂商(如OpenAI、Claude、Gemini等)。它简化了多API对接流程,内置智能模型管理、安全存储API Key、提供连通性测试和配置持久化,支持Re...
TL;DR Boris Cherny 在 2024 年 9 月加入 Anthropic,用 5 个月时间,大量依赖 AI(Claude)来构建 Claude Code——用 AI 写 AI 工具。2025 年 2 月 24 日,Claude...
AI Selector是一款开源的通用AI配置组件,帮助开发者快速接入20+主流大模型厂商。支持自定义扩展、智能模型管理、API Key安全存储、连通性测试等功能,确保配置持久化和API统一处理。为React和Vue框架提供一致的AI服务接...
本文探讨了Cursor用户在公益站模型使用中遇到的实际问题。用户询问是否有其他人在Cursor中成功应用公益站模型,并求助解决网络访问矛盾:公益站不支持梯子,但通过l站登录又需要梯子。这一难题反映了开源AI工具在全球化应用中的网络限制,可能...
这篇文章介绍了一个名为’corroded’的Rust语言库,它故意绕过Rust编译器的安全检查机制,包括借用检查器、生命周期管理和边界检查等。作者以一种讽刺的方式展示了各种’不安全’的编程模式...
在Linux.do技术社区,一个涉及反代理Antigravity、cc和Gemini-3-Pro的开发项目遭遇卡循环问题。项目团队通过7个帖子进行深入讨论,吸引了7位参与者共同探讨解决方案。这一事件揭示了AI模型在实际部署中可能面临的稳定性...
OpenDocvivid是一款开源的AI驱动文档生成视频平台,用户可上传文档或网页内容,由大模型处理自动生成图文并茂的视频。项目包含AI视频生成、任务驱动的处理流程、用户订阅体系、现代Web界面和可扩展后端。技术栈采用Python、Fast...