模型优化
  1. 首页
  2. 模型优化

列表

VRAG

VRAG

VRAG-RL是阿里巴巴通义大模型团队推出的视觉感知驱动的多模态RAG推理框架，旨在提升视觉语言模型在处理视觉丰富信息时的检索、推理和理解能力。通过定义视觉感知动作空间，实现从粗粒度到细粒度的信息获取，并结合强化学习和综合奖励机制优化模型性能。该框架支持多轮交互推理，具备良好的可扩展性，适用于智能文档问答、视觉信息检索、多模态内容生成等多种场景。
AI项目与工具 2025年06月11日
TokenSwift

TokenSwift

TokenSwift是由北京通用人工智能研究院开发的超长文本生成加速框架，可在90分钟内生成10万Token文本，效率较传统模型提升3倍，且保持输出质量。其核心优势包括多Token并行生成、动态KV缓存管理、上下文惩罚机制等技术，支持多种模型架构。适用于内容创作、智能客服、学术研究及编程辅助等场景。
AI项目与工具 2025年06月12日
APB

APB

APB是一种由清华大学等机构开发的分布式长上下文推理框架，通过稀疏注意力机制和序列并行推理提升大模型处理长文本的效率。采用更小的Anchor Block和Passing Block，结合查询感知的上下文压缩技术，减少计算开销并精准传递关键信息。在128K长度文本上，APB推理速度比Flash Attention快10倍，比Star Attention快1.6倍，适用于多种分布式环境和模型规模，广泛
AI项目与工具 2025年06月12日