AI 搜索“毒化”现实：模型崩溃隐忧，从神器到“垃圾输出”-灵析社区

AI 搜索工具在不断的版本迭代过程中，出现了搜索结果质量下降的现象。尤其是以 Perplexity 为代表的 AI 搜索工具，虽然一度优于传统搜索引擎，如谷歌，但由于模型崩溃（model collapse）现象的出现，搜索结果的准确性和可靠性逐渐丧失。模型崩溃的根本原因模型崩溃的根源主要有三大因素：错误累积、稀有数据丢失和反馈循环。错误累积指的是每一代模型继承并放大前代的缺陷；稀有数据丢失使得模型难以处理罕见事件和概念；反馈循环则是强化了狭窄的模式，导致重复或偏见的输出。检索增强生成技术（RAG）为了提升 AI 搜索的表现，广泛应用了检索增强生成技术（RAG），使得大型语言模型（LLM）能够从外部数据库提取信息，从而减少幻觉（hallucination）现象。但即便如此，RAG 技术仍然无法完全避免错误的输出。 AI 搜索的影响随着 AI 模型崩溃的加剧，AI 在各个领域的应用开始显现出“垃圾输入、垃圾输出”的现象，特别是在一些学术和创作内容中。这种现象表明，过于依赖 AI 生成的内容，可能会导致准确性和质量的严重下降，进一步影响整个信息生态的健康发展。相关图像链接