Rust 跨平台 LLM 工具：汉化漫画的 GPU 加速方案

本文介绍了一个名为 koharu 的开源工具，使用 Rust 编写，专为跨平台漫画汉化设计。工具支持日语翻译到中文和英文，结合本地运行的 8B 大语言模型（LLM）进行翻译，并利用多个计算机视觉模型处理文字检测、识别和图像修复。技术亮点包括纯 Rust 实现，模型通过 candle 库重新开发，支持 NVIDIA CUDA 和 macOS MPS GPU 加速，确保高性能。安装包极小，依赖动态下载，便于跨平台部署。项目需要联网下载 PyPI 包和从 HuggingFace 拉取模型。在 GitHub 开源，展示了 Rust 在 AI 应用中的潜力，为开发者提供了高效的本地化解决方案，推动了开源社区的技术创新，对关注 AI、GPU 加速和跨平台开发的读者具有参考价值。