跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
赞助推荐 开放可编程的智能路由
赞助推荐 开放可编程的智能路由

标签索引

长文本处理

这个标签下有 7 篇文章。按时间回看相关判断与实践记录。

标签精选

相关内容

前沿哨所

告别“失忆”!开源系统“天命”用数据流重塑AI长文创作,实现千万字连贯叙事

“天命”是一个开源的 AI 网文创作系统,旨在解决大模型在长文本生成中“遗忘”和逻辑崩坏的核心痛点。与依赖模型上下文窗口的传统工具不同,天命通过将故事转化为可管理的结构化数据,实现了“可生成、可校验、可追踪、可重打包”的闭环。该系统包含 1...

1 分钟阅读151 阅读
前沿哨所

大模型长文本输出瓶颈:为何 AI 难以一次性生成完整标书?

近日,有用户反馈在使用 Gemini、GPT 等主流大模型尝试生成几十页的标书或技术规范书时遭遇瓶颈。尽管输入文本在模型的上下文窗口限制内,但 AI 的输出往往被截断,无法一次性提供完整的数十页回复。这一现象揭示了当前 AI 领域的一个普遍...

1 分钟阅读213 阅读
前沿哨所

长文本结构化任务的性能瓶颈:4k Prompt下的LLM加速方案探讨

一位开发者在尝试利用LLM从试卷文本中切割题目时遭遇了性能瓶颈。为了应对不规范的输入格式,他编写了长达4k token的Prompt以确保解析质量,但这导致处理速度极慢,因为所有内容都需要一次性输入模型。目前的讨论集中在分片并行处理和聚合上...

1 分钟阅读129 阅读