拒绝单点故障:个人API中转站的微服务化拆分实战
本文分享了自建 AI API 中转站的架构优化经验。作者反思了初期将多个服务混部在单台服务器上导致的故障排查难、维护混乱等问题,最终采用了“一机一职”的隔离策略。通过将注册机、管理中心、中转层和网关入口分别部署在四台独立服务器上,成功厘清了...
标签索引
这个标签下有 3 篇文章。按时间回看相关判断与实践记录。
标签精选
本文分享了自建 AI API 中转站的架构优化经验。作者反思了初期将多个服务混部在单台服务器上导致的故障排查难、维护混乱等问题,最终采用了“一机一职”的隔离策略。通过将注册机、管理中心、中转层和网关入口分别部署在四台独立服务器上,成功厘清了...
本文深入探讨了一种极致性能的网络服务器编程模式。作者抨击了目前主流的基于 libevent 的事件循环与多线程分发模型,指出其在过去二十年中性能停滞不前。相反,文章提出了一种“每核一线程”的设计方案:将线程通过 CPU 亲和性绑定到特定核心...
Ktkit是一个全新的Kotlin工具包,专门旨在优化和简化使用Ktor框架构建服务器端应用程序的流程。Ktor作为Kotlin生态中用于构建异步服务器和客户端的主流框架,以其灵活性和协程支持著称。Ktkit的出现进一步完善了Kotlin的...