Karpathy神经网络03：MLP - 多层感知机
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：Karpathy神经网络02：Makemore – 语言模型入门 | → 下一篇：Karpathy神经网络04：BatchNorm – 解决训练崩盘 ...
AI 情报局 / 第 14 页
AI 大模型
大模型、AI Agent、模型评测与产业动态。
本栏重点
正在发生
Karpathy神经网络02：Makemore - 语言模型入门
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：Karpathy神经网络01：Micrograd – 手撸一个AI大脑 | → 下一篇：Karpathy神经网络03：MLP – 多层感知机 这是一篇...
Karpathy神经网络01：Micrograd - 手撸一个AI大脑
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：无 | → 下一篇：Karpathy神经网络02：Makemore – 语言模型入门 这不仅是一个视频总结，更是一堂为你量身定制的 AI 原理启蒙课。 视频的作者...
大模型面试100问08：开源生态篇
TL;DR 开源大模型已经追上闭源——LLaMA 3.1 405B在多项任务上接近GPT-4，Qwen 2.5在中文理解上超越GPT-4o。选模型不是看参数大小，而是看任务适配：LLaMA生态最丰富、Mistral推理最快、Qwen中文最强...
大模型面试100问07：特殊架构篇
TL;DR 稠密模型的参数规模竞赛已经到头，MoE用稀疏激活让470亿参数的模型跑出130亿的速度；多模态让LLM能看图说话，GPT-4V的视觉编码器是关键；Diffusion模型让AI能画画，DDPM和DDIM是两条技术路线。本文从6个高...
大模型面试100问06：评估与安全篇
TL;DR 评估和安全是LLM落地的两大关键——不能衡量就无法改进，不能保护就不敢上线。BLEU/ROUGE适合机器翻译但不适合开放生成，困惑度只能评估语言建模能力；幻觉检测用语义熵，偏见测量用CrowS-Pairs；红队测试模拟攻击，差分...
大模型面试100问05：RAG与Agent篇
TL;DR LLM的知识有截止日期，RAG让它能查最新资料；LLM只会聊天，Agent让它能干活。RAG的核心是检索+生成，文档分块策略直接影响效果；Agent的核心是感知+规划+记忆+工具，ReAct架构让它能像人一样思考和行动。本文从8...
大模型面试100问04：Prompt工程篇
TL;DR Prompt工程是让LLM听懂人话的艺术——同样的问题，换个问法效果天差地别。”让我们一步步思考”这句话为什么能让GPT-4准确率从17%提升到79%？Tree of Thoughts如何让模型像下棋一样...
大模型面试100问03：推理与部署篇
TL;DR 推理才是大模型的真正战场——训练一次，推理百万次。标准Attention的内存带宽成为瓶颈，Flash Attention通过Tiling技术让速度提升5倍；KV Cache让解码快10倍，但长上下文会吃掉几十GB显存；vLLM...
大模型面试100问02：训练与优化篇
TL;DR 全参数微调一个7B模型要14GB显存，65B模型要130GB——普通人根本玩不起。但LoRA只需要0.1%的参数，QLoRA更狠，单张24GB显卡就能训65B模型。本文从10个高频面试题入手，带你搞懂大模型训练的核心技术：LoR...
大模型面试100问01：基础概念与架构篇
TL;DR 面试官问你Transformer原理，你能答到什么深度？本文从12个高频面试题入手，带你搞懂大模型的底层架构——不是背概念，是真正理解为什么GPT用单向注意力、LLaMA为什么选RoPE、多头注意力到底在干什么。读完这篇，你能用...
大模型面试100问：从基础到实战的完整指南
大模型面试100问：从基础到实战的完整指南 为什么需要这个系列？ 大模型面试不是背八股文——面试官要的是系统性理解和实战经验。市面上的面试题要么太碎片化（100个孤立问题），要么太理论化（只讲公式不讲应用）。 这个系列不一样： ✅ 系统化：...
Karpathy神经网络零基础课程：从零手撸到GPT
TL;DR Andrej Karpathy（前特斯拉AI总监、OpenAI创始成员）做了个神经网络课程，从零开始手撸代码，一路搞到GPT。不讲虚的，全是实战。你要是会Python和高中数学，就能跟着学。 为什么值得看？ 先说重点：这课程跟市...
Claude Code 架构深度解析：Commands、Skills、Agents、Plugins 一文说清
TL;DR 你可能听说过 Claude Code 的 Commands、Skills、Agents、Plugins，但搞不清它们到底有啥区别？ 简单说： – Commands = 你按的按钮（手动触发） – Skil...
Boris Cherny 的 Claude Code 实战手册：13 条生产力心法
TL;DR 上篇讲了 Boris Cherny 的核心理念，这篇直接上干货：他的 13 条 Claude Code 实战技巧。 从环境配置（5 终端并行、系统通知）、到工具链（slash commands、subagents、hooks）、...
Claude Code 创造者 Boris Cherny：用 AI 写 AI 的极致实践
TL;DR Boris Cherny 在 2024 年 9 月加入 Anthropic，用 5 个月时间，大量依赖 AI（Claude）来构建 Claude Code——用 AI 写 AI 工具。2025 年 2 月 24 日，Claude...
Gemini Pro 家庭共享完全指南：6人均摊每月90元，附避坑手册
系列导航 [上篇] Google AI Pro 订阅全解析 [本篇] Gemini 家庭共享完全指南 ← 你在这里 [下篇] Gemini Pro 进阶玩法 好家伙，Google 这次真下血本了。 年底促销直接砍 58%，原价 7,800 ...
Meta 的终局：从社交巨头到 AI 操作系统
系列导航 第一篇：破除”套壳”迷思 第二篇：代理的真实价值 第三篇：Meta 的终局（本篇） 一、Meta 的困局 你知道 Meta 现在面临什么问题吗？ 有脑，无手。 Meta 通过开源 Llama 系列模型，成功...
Manus 的三大绝活：为什么 Meta 甘愿花数十亿
系列导航 第一篇：破除”套壳”迷思 第二篇：代理的真实价值（本篇） 第三篇：Meta 的终局 一、开场：能力过剩的时代 你有没有想过这个问题：为什么 ChatGPT 能写代码，却写不出一个能自己跑代码的程序？ 这就是...
Meta 收购 Manus：我之前理解错了
Meta 的终局：从社交巨头到 AI 操作系统 系列导航 第一篇：破除”套壳”迷思 第二篇：代理的真实价值 第三篇：Meta 的终局（本篇） 一、Meta 的困局 你知道 Meta 现在面临什么问题吗？ 有脑，无手。...