KTransformers KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。 AI项目与工具 2025年06月12日 21 点赞 0 评论 420 浏览
DistilQwen2.5 DistilQwen2.5-R1 是阿里巴巴推出的基于知识蒸馏技术的轻量级深度推理模型,包含多种参数量级,适用于资源受限环境。它具备高效计算、深度推理和高度适应性,支持文本生成、机器翻译、客户服务等多种任务。通过双阶段训练和认知轨迹适配框架,提升了小模型的推理能力,性能优于同类开源模型。 AI项目与工具 2025年06月12日 92 点赞 0 评论 419 浏览
OpenScholar OpenScholar是一款由华盛顿大学与艾伦AI研究所联合研发的检索增强型语言模型,专为科学家设计,能够高效检索并综合海量科学文献信息,生成基于文献的事实性回答。该工具具备强大的跨学科适用性,涵盖计算机科学、生物医学等多个领域,同时支持自我反馈迭代优化,显著提升回答质量和引用可靠性。所有相关资源已完全开源,便于全球学者使用与研究。 AI项目与工具 2025年06月12日 30 点赞 0 评论 419 浏览
AnimeShorts 一个AI漫画与动画创作平台,提供包括角色创建、AI 剧本优化、动态效果生成等多种功能,可以将你的想法、草图或照片快速转化为动漫短片。 Ai绘画生成 2025年06月05日 94 点赞 0 评论 419 浏览
Topview.ai 一款在线AI视频编辑器,可以将您的链接一键转换为爆款视频。用户通过上传自己的原始视频素材,然后AI生成脚本、选择镜头、编辑、旁白和美化视频。 Ai视频生成 2025年06月05日 40 点赞 0 评论 418 浏览
IconLab Ai IconLab Ai是一款 AI 设计工具,可在短短几秒内生成令人惊叹的 App 图标和 Logo。它使用 AI 技术,训练了大量的图形、图标和素材库,能够提供多样化的图标风格选择。 Ai绘画生成 2025年06月05日 32 点赞 0 评论 417 浏览
MHA2MLA MHA2MLA是一种由多所高校与研究机构联合开发的数据高效微调方法,基于多头潜在注意力机制(MLA)优化Transformer模型的推理效率。通过Partial-RoPE和低秩近似技术,显著减少KV缓存内存占用,同时保持模型性能稳定。仅需少量数据即可完成微调,适用于边缘设备、长文本处理及模型迁移等场景,具备高兼容性和低资源消耗优势。 AI项目与工具 2025年06月12日 47 点赞 0 评论 417 浏览
文心百中 一款基于百度文心大模型推出的创新搜索产品,文心百中通过极简的框架设计和新一代语义向量搜索模式,实现了搜索效果与效率的双重突破,为企业和开发者提供了更加高效和便捷的搜索解决方案。 Ai平台模型 2025年06月05日 72 点赞 0 评论 417 浏览
Profiling Data Profiling Data是DeepSeek开发的开源性能分析工具,基于PyTorch Profiler收集程序运行数据,用于优化深度学习模型的训练和推理效率。它支持可视化分析,可定位性能瓶颈、分析资源利用情况、优化通信策略,并适用于分布式系统调优。通过提供详细的运行指标,帮助开发者提升计算与通信效率,实现更高效的系统性能。 AI项目与工具 2025年06月12日 34 点赞 0 评论 416 浏览