CodePlan Beta稳定运行，Claude支持与模型优化升级
X-AIO旗下品牌CodePlan在Beta阶段实现稳定运行，团队在过去半个月内完善了多项关键技术，包括Claude原生支持、优化转义层、提升工具调用兼容性，并引入MiniMax-M2.1和GLM-4.7等开源模型。产品稳定度已达95%，正...
标签索引 / 第 2 页
模型优化
这个标签下有 15 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
成功运行 loopcoder-40b 模型，性能达81.4%
研究人员成功在硬件上运行了loopcoder-40b模型，达到SWE基准81.4%的准确率，但性能瓶颈明显，仅9 token/s。由于vLLM和SGlang原生不支持该模型，团队采用了GitHub上的PR #31575来支持IQuestCo...
AI框架静默转换模型为FP16，引发精度担忧
近日，技术文章揭示，ONNX Runtime和CoreML等AI框架在模型部署过程中，可能会自动将模型转换为FP16半精度格式，而未明确告知用户。这种转换旨在提升推理速度，但可能导致模型精度下降，尤其在复杂任务如自动驾驶或医疗AI中，影响预...
vLLora推出LLM调试新模式，助力模型优化与开发
vLLora近日宣布为其大型语言模型(LLM)添加了调试模式功能，这一创新工具旨在帮助开发者更高效地识别和解决模型训练过程中的问题。调试模式提供了一系列可视化工具和实时监控功能，使开发人员能够深入理解模型行为，优化性能，并加速开发周期。该功...
AI新突破：深度神经网络共享通用权重子空间
最新研究表明，深度神经网络在不同任务训练后会收敛到相似的低维参数子空间。研究人员通过对1100多个模型（包括500个Mistral-7B LoRAs、500个视觉Transformer和50个LLaMA-8B模型）进行谱分析，首次证实神经网...