如何分段处理超过ChatGPT最大token长度的问题?-灵析社区

七安前

这个问题无法解决,这是大语言模型的技术限制的。 可以换更大上下文的服务,比如 Claude,支持 100K;Google 最近发布的 Gemini 1.5 Pro,支持 1.2M。 另外,也可以考虑用 Embedding 检索,可以一定程度上解决这个问题。

阅读量:1

点赞量:0

问AI