Databricks

Databricks开源自动分片系统Dicer，大幅提升AI与GPU利用率

Databricks宣布开源核心基础设施组件Dicer，这是一款自动分片系统，旨在构建低延迟、可扩展且高可靠性的分片服务。Dicer通过动态管理分片分配，有效解决了无状态架构的高成本和静态分片的脆弱性难题。该技术尤其适用于高性能服务、LLM...