AI编程 · 架构思考 · 技术人生
共 1 篇文章

标签:量化

用SQLite和llama.cpp构建低成本语义搜索引擎

本文详细记录了作者优化海军维护手册语义搜索引擎的实战过程。通过将数据库从昂贵的托管Postgres迁移至轻量级SQLite,并结合llama.cpp与8位量化技术大幅降低内存消耗,作者成功将项目月成本降至2美元以下。此外,引入重排序模型提升...

赞(0)ToyToy前沿 阅读(1)去评论

十年稳如初 — LocVPS,用时间证明实力

10+ 年老牌云主机服务商,全球机房覆盖,性能稳定、价格厚道。

老品牌,更懂稳定的价值你的第一台云服务器,从 LocVPS 开始