如何分段处理超过ChatGPT最大token长度的问题？-灵析社区

七安前

这个问题无法解决，这是大语言模型的技术限制的。 可以换更大上下文的服务，比如 Claude，支持 100K；Google 最近发布的 Gemini 1.5 Pro，支持 1.2M。 另外，也可以考虑用 Embedding 检索，可以一定程度上解决这个问题。