模型
SearchAgent
SearchAgent-X是由南开大学和伊利诺伊大学厄巴纳香槟分校(UIUC)研究人员开发的高效推理框架,旨在提升基于大型语言模型(LLM)的搜索Agent效率。通过高召回率的近似检索、优先级感知调度和无停顿检索等技术,显著提高系统吞吐量(1.3至3.4倍),降低延迟(降至原来的1/1.7至1/5),同时保持生成质量。该框架优化资源利用率,适用于智能客服、搜索引擎、企业知识管理等多种场景,为复杂A
Quickchat AI
Quickchat AI是一个经过实战考验、业务就绪的技术,自2020年以来一直在开发基于大型语言模型的对话AI助手。它提供了详细的设计和对AI解决方案的严格控制,帮助企业将AI置于核心位置。
