优化 - 智狐AI导航

MHA2MLA

MHA2MLA是一种由多所高校与研究机构联合开发的数据高效微调方法，基于多头潜在注意力机制（MLA）优化Transformer模型的推理效率。通过Partial-RoPE和低秩近似技术，显著减少KV缓存内存占用，同时保持模型性能稳定。仅需少量数据即可完成微调，适用于边缘设备、长文本处理及模型迁移等场景，具备高兼容性和低资源消耗优势。

AI项目与工具 2025年06月12日 47 点赞 0 评论 513 浏览

KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具，用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型，利用MoE架构和异构计算策略实现高效推理，预处理速度达286 tokens/s，推理速度达14 tokens/s。项目提供灵活的模板框架，兼容多种模型，并通过量化和优化技术减少存储需求，适合个人、企业及研究场景使用。

AI项目与工具 2025年06月12日 21 点赞 0 评论 513 浏览

Shaped

Shaped 是一款基于人工智能技术的搜索引擎，能够根据用户行为和偏好提供个性化的推荐内容。它利用智能搜索技术来理解用户意图，并通过实时学习用户反馈不断优化推荐结果。此外，Shaped 支持多数据源集成，并且易于通过API接入。其应用场景包括电商平台的商品推荐、内容发现、搜索引擎优化、社交媒体分析以及市场动态监测等。

AI项目与工具 2025年06月12日 17 点赞 0 评论 515 浏览

Etsyshop AI

简单易用的 Etsy 业务一体化平台，支持产品研究、市场研究、etsy seo 关键字、列表优化、发现最佳 Etsy 卖家、扩展等功能。

电商运营 2025年06月05日 44 点赞 0 评论 515 浏览

SmolLM2

SmolLLM2是一款由Hugging Face研发的紧凑型大型语言模型，支持设备端运行，具有1.7B、360M、135M三种参数规模。它通过监督微调与超反馈优化提升指令理解能力，在文本重写、摘要生成、函数调用等方面表现突出，适用于智能助手、聊天机器人等需要自然语言处理的场景，尤其适合延迟敏感、隐私保护和硬件资源受限的应用。

AI项目与工具 2025年06月12日 24 点赞 0 评论 515 浏览