大模型微调入门: SFT、LoRA 与何时不该微调
这一课解决一个非常具体的问题：当工程师或供应商对你说”这个需求得微调”时，你能判断这句话是对是错。学完你会知道大模型微调到底改了模型的什么、SFT 和 LoRA 是什么关系、哪三类场景值得花这个钱、哪三类场景微调纯属...
标签索引
LoRa
这个标签下有 4 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
LILYGO 推出 T-Watch Ultra：首款具备工业级防护与 LoRa 通信的开源智能手表
LILYGO 发布了 T-Watch Ultra，这是一款专为极客和开发者设计的耐用型开源智能手表，有效解决了以往 DIY 设备脆弱不耐用的痛点。该设备核心搭载 ESP32-S3 双核处理器，配备 16MB 闪存和 8MB PSRAM，利用...
开源工具MeshTNC：将消费级LoRa设备变身KISS TNC，实现离线IP组网
MeshTNC 是一款开源固件工具，旨在消除专用业余无线电硬件与廉价消费级LoRa模块之间的隔阂。它通过将普通LoRa电台转换为符合KISS协议标准的TNC（终端节点控制器），使其能够无缝兼容主流的数字通信软件（如APRS、AX.25）。用...
大模型面试100问02：训练与优化篇
TL;DR 全参数微调一个7B模型要14GB显存，65B模型要130GB——普通人根本玩不起。但LoRA只需要0.1%的参数，QLoRA更狠，单张24GB显卡就能训65B模型。本文从10个高频面试题入手，带你搞懂大模型训练的核心技术：LoR...