用SQLite和llama.cpp构建低成本语义搜索引擎

本文详细记录了作者优化海军维护手册语义搜索引擎的实战过程。通过将数据库从昂贵的托管Postgres迁移至轻量级SQLite，并结合llama.cpp与8位量化技术大幅降低内存消耗，作者成功将项目月成本降至2美元以下。此外，引入重排序模型提升了结果相关性，并采用HATEOAS架构简化了前端状态管理，展示了低成本构建高效AI应用的最佳实践。