Karpathy神经网络07：GPT - 从零实现ChatGPT
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：Karpathy神经网络06：WaveNet – 神经网络大升级 | → 下一篇：Karpathy神经网络08：Tokenizer – 为什么AI不识...
标签索引 / 第 195 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Karpathy神经网络03：MLP - 多层感知机
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：Karpathy神经网络02：Makemore – 语言模型入门 | → 下一篇：Karpathy神经网络04：BatchNorm – 解决训练崩盘 ...
大模型面试100问08：开源生态篇
TL;DR 开源大模型已经追上闭源——LLaMA 3.1 405B在多项任务上接近GPT-4，Qwen 2.5在中文理解上超越GPT-4o。选模型不是看参数大小，而是看任务适配：LLaMA生态最丰富、Mistral推理最快、Qwen中文最强...
大模型面试100问07：特殊架构篇
TL;DR 稠密模型的参数规模竞赛已经到头，MoE用稀疏激活让470亿参数的模型跑出130亿的速度；多模态让LLM能看图说话，GPT-4V的视觉编码器是关键；Diffusion模型让AI能画画，DDPM和DDIM是两条技术路线。本文从6个高...
大模型面试100问06：评估与安全篇
TL;DR 评估和安全是LLM落地的两大关键——不能衡量就无法改进，不能保护就不敢上线。BLEU/ROUGE适合机器翻译但不适合开放生成，困惑度只能评估语言建模能力；幻觉检测用语义熵，偏见测量用CrowS-Pairs；红队测试模拟攻击，差分...
大模型面试100问05：RAG与Agent篇
TL;DR LLM的知识有截止日期，RAG让它能查最新资料；LLM只会聊天，Agent让它能干活。RAG的核心是检索+生成，文档分块策略直接影响效果；Agent的核心是感知+规划+记忆+工具，ReAct架构让它能像人一样思考和行动。本文从8...
大模型面试100问04：Prompt工程篇
TL;DR Prompt工程是让LLM听懂人话的艺术——同样的问题，换个问法效果天差地别。”让我们一步步思考”这句话为什么能让GPT-4准确率从17%提升到79%？Tree of Thoughts如何让模型像下棋一样...
大模型面试100问03：推理与部署篇
TL;DR 推理才是大模型的真正战场——训练一次，推理百万次。标准Attention的内存带宽成为瓶颈，Flash Attention通过Tiling技术让速度提升5倍；KV Cache让解码快10倍，但长上下文会吃掉几十GB显存；vLLM...
大模型面试100问02：训练与优化篇
TL;DR 全参数微调一个7B模型要14GB显存，65B模型要130GB——普通人根本玩不起。但LoRA只需要0.1%的参数，QLoRA更狠，单张24GB显卡就能训65B模型。本文从10个高频面试题入手，带你搞懂大模型训练的核心技术：LoR...
大模型面试100问01：基础概念与架构篇
TL;DR 面试官问你Transformer原理，你能答到什么深度？本文从12个高频面试题入手，带你搞懂大模型的底层架构——不是背概念，是真正理解为什么GPT用单向注意力、LLaMA为什么选RoPE、多头注意力到底在干什么。读完这篇，你能用...