蚂蚁健康开源医疗大模型:百亿参数高效推理
蚂蚁健康等团队近日开源医疗语言模型AntAngelMed,采用基于Ling-flash-2.0的MoE架构,总参数100B,激活参数仅6.1B,在H20芯片上推理速度超200 tokens/s,支持128K上下文。模型通过三阶段训练——医疗...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
蚂蚁健康等团队近日开源医疗语言模型AntAngelMed,采用基于Ling-flash-2.0的MoE架构,总参数100B,激活参数仅6.1B,在H20芯片上推理速度超200 tokens/s,支持128K上下文。模型通过三阶段训练——医疗...