DuoAttention
DuoAttention是由MIT韩松团队提出的新型框架，通过区分“检索头”和“流式头”两种注意力机制，显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用，加速了解码和预填充过程，并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。
准确
Perplexity
Perplexity AI 是一款对话式AI搜索引擎，通过自然语言处理技术，能够从多种来源收集信息并提供准确答案。它支持用户通过聊天方式进行提问，确保信息来源可靠，并适用于多种职业背景的用户。与传统搜索引擎相比，Perplexity AI 提供了简洁无广告的体验和更高效的搜索结果。
