大型语言模型

1. 首页
2. 大型语言模型

LayerSkip

LayerSkip 是一种针对大型语言模型推理优化的技术，通过层 dropout 和早期退出损失机制，实现从早期层的精准退出，降低计算成本并提高解码效率。该方法结合自我推测解码技术，支持模型在早期层生成预测并通过后续层验证修正，广泛适用于文档摘要、编程任务、语义解析等自然语言处理任务，同时确保高精度与低延迟。

AI项目与工具 2025年06月12日 72 点赞 0 评论 482 浏览

SearchAgent

SearchAgent-X是由南开大学和伊利诺伊大学厄巴纳香槟分校（UIUC）研究人员开发的高效推理框架，旨在提升基于大型语言模型（LLM）的搜索Agent效率。通过高召回率的近似检索、优先级感知调度和无停顿检索等技术，显著提高系统吞吐量（1.3至3.4倍），降低延迟（降至原来的1/1.7至1/5），同时保持生成质量。该框架优化资源利用率，适用于智能客服、搜索引擎、企业知识管理等多种场景，为复杂A

AI项目与工具 2025年06月11日 56 点赞 0 评论 485 浏览

Jina Reader

Jina Reader是一款由Jina AI开发的开源工具，专注于将互联网上的HTML网页内容转换为适合大型语言模型处理的纯文本格式。它支持多种内容格式，具备流模式、JSON模式和Alt生成模式等功能，能够高效提取网页核心内容，去除冗余信息，并通过自然语言处理和动态内容处理技术提升文本质量和理解能力。Jina Reader适用于内容聚合、SEO优化、学术研究及个性化推荐等多个领域。

AI项目与工具 2025年06月12日 52 点赞 0 评论 489 浏览

ProX

ProX是一种用于提升大型语言模型预训练数据质量的框架，通过自动化编程手段实现数据清洗和精炼。其主要特点包括自动化细粒度数据处理、无需人工干预、显著提升模型性能以及广泛的领域适应性。ProX在多种任务中展示了超过2%的性能提升，并有效降低了训练成本。

AI项目与工具 2025年06月12日 53 点赞 0 评论 496 浏览

Wren AI

Wren AI 是一个开源的文本到 SQL 工具，基于自然语言处理技术，允许用户通过自然语言提问来执行数据库查询，无需编写 SQL 代码。它支持多种数据库和数据源，具有语义理解能力，能准确解析业务上下文并提供精确的结果。Wren AI 的核心功能包括语义引擎、向量数据库和大型语言模型，支持数据集成、安全性和结果导出，广泛应用于业务智能分析、数据探索、报告生成等领域。

AI项目与工具 2025年06月12日 82 点赞 0 评论 497 浏览

Whispo

Whispo是一款AI驱动的语音转录工具，支持用户通过快捷键快速录制语音并将其转写为文本，同时具备本地数据处理、隐私保护及基于大型语言模型的文本后处理功能。它适用于会议记录、教育、自动字幕生成等多个场景，旨在提升工作效率和用户体验。

AI项目与工具 2025年06月12日 47 点赞 0 评论 508 浏览

Qwen2

Qwen2是由阿里云通义千问团队开发的大型语言模型系列，涵盖从0.5B到72B的不同规模版本。该系列模型在自然语言理解、代码编写、数学解题及多语言处理方面表现出色，尤其在Qwen2-72B模型上，其性能已超过Meta的Llama-3-70B。Qwen2支持最长128K tokens的上下文长度，并已在Hugging Face和ModelScope平台上开源。 ---

AI项目与工具 2024年01月01日 48 点赞 0 评论 509 浏览

ChatMCP

ChatMCP是一款基于模型上下文协议（MCP）的AI聊天客户端，支持与多种大型语言模型（LLM）交互。它提供自动化安装MCP服务器、SSE传输支持、自动选择服务器及聊天记录管理等功能，并通过MCP服务器市场实现与不同数据源的聊天。用户可配置LLM API密钥和端点，界面友好且功能强大，适用于客户服务、个人助理、教育学习、企业内部沟通及信息检索等多种场景。

AI项目与工具 2025年06月12日 48 点赞 0 评论 511 浏览

AutoVFX

AutoVFX是一款由伊利诺伊大学香槟分校研发的先进物理特效框架，通过神经场景建模、大型语言模型（LLM）代码生成及物理模拟技术，实现自然语言指令驱动的视频特效编辑与创作。其主要功能涵盖3D场景建模、程序生成、VFX模块、物理模拟、渲染与合成等，适用于电影制作、广告营销、游戏开发、虚拟现实及教育等多个领域。

AI项目与工具 2025年06月12日 85 点赞 0 评论 511 浏览

Skyvern

Skyvern是一款基于开源的浏览器自动化工具，集成了大型语言模型和计算机视觉技术，用于实现网页内容解析、交互计划生成及执行。其主要功能涵盖CAPTCHA解决、双因素认证支持、代理网络配置、可解释AI操作以及数据提取等，适用于网站数据抓取、表单填写、网页测试等多种应用场景。

AI项目与工具 2025年06月12日 90 点赞 0 评论 513 浏览