推理
  1. 首页
  2. 推理

列表

HuggingChat macOS

HuggingChat macOS

HuggingChat macOS是一款基于开源语言模型的聊天应用程序，专为macOS平台打造。它支持多款顶级开源大语言模型，具备网络搜索、代码高亮等功能，同时提供模型管理及本地推理引擎支持。这款工具适用于日常交流、信息查询、语言学习、编程辅助及内容创作等多种场景。
AI项目与工具 2025年06月12日
s1

s1

S1是由斯坦福大学和华盛顿大学联合开发的低成本、高性能AI推理模型，采用知识蒸馏技术从大型模型中提取推理能力。通过1000个高质量问题训练，成本低于50美元，训练时间短于30分钟。S1在数学和编程领域表现卓越，支持测试时扩展技术以优化推理效果，并已在GitHub开源，适用于科学问题解决、智能辅导、自动问答等多种场景。
AI项目与工具 2025年06月12日

TigerGPT

TigerGPT
TigerGPT
一个基于 OpenAI、DeepSeek-R1的深度推理AI投资助手，为投资者提供智能化的投资决策支持。
财经投资 2025年06月05日
Profiling Data

Profiling Data

Profiling Data是DeepSeek开发的开源性能分析工具，基于PyTorch Profiler收集程序运行数据，用于优化深度学习模型的训练和推理效率。它支持可视化分析，可定位性能瓶颈、分析资源利用情况、优化通信策略，并适用于分布式系统调优。通过提供详细的运行指标，帮助开发者提升计算与通信效率，实现更高效的系统性能。
AI项目与工具 2025年06月12日
MHA2MLA

MHA2MLA

MHA2MLA是一种由多所高校与研究机构联合开发的数据高效微调方法，基于多头潜在注意力机制（MLA）优化Transformer模型的推理效率。通过Partial-RoPE和低秩近似技术，显著减少KV缓存内存占用，同时保持模型性能稳定。仅需少量数据即可完成微调，适用于边缘设备、长文本处理及模型迁移等场景，具备高兼容性和低资源消耗优势。
AI项目与工具 2025年06月12日
揽睿星舟

揽睿星舟

揽睿星舟是一款由翼方健数自主研发的云端AI训推一体化算力平台，提供高性能GPU计算资源、开箱即用的训练与推理环境、丰富的AI工具链及预训练模型，支持多机多卡分布式训练和隐私安全计算，旨在解决AI协作中的安全信任问题并加速AI价值的释放。它包含推理服务、工作空间、星舟API、镜像社区、应用版与专业版等多种功能和服务，适用于模型训练、推理、大模型API服务、隐私安全计算及数据集共享等多个应用场景。
AI项目与工具 2025年06月12日
日日新融合大模型

日日新融合大模型

日日新融合大模型（SenseNova）是商汤科技推出的多模态AI系统，支持文本、图像、视频等多种数据的融合处理，具备强大的深度推理与多模态分析能力。该模型在多个权威评测中表现优异，广泛应用于自动驾驶、视频交互、办公教育、金融、园区管理及工业制造等领域，提升了多场景下的智能化水平。
AI项目与工具 2025年06月12日
DistilQwen2.5

DistilQwen2.5

DistilQwen2.5-R1 是阿里巴巴推出的基于知识蒸馏技术的轻量级深度推理模型，包含多种参数量级，适用于资源受限环境。它具备高效计算、深度推理和高度适应性，支持文本生成、机器翻译、客户服务等多种任务。通过双阶段训练和认知轨迹适配框架，提升了小模型的推理能力，性能优于同类开源模型。
AI项目与工具 2025年06月12日
KTransformers

KTransformers

KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具，用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型，利用MoE架构和异构计算策略实现高效推理，预处理速度达286 tokens/s，推理速度达14 tokens/s。项目提供灵活的模板框架，兼容多种模型，并通过量化和优化技术减少存储需求，适合个人、企业及研究场景使用。
AI项目与工具 2025年06月12日
Amazon Bedrock

Amazon Bedrock

Amazon Bedrock是一款由AWS推出的完全托管型AI服务平台，集成了多家顶级AI公司的基础模型，支持企业通过单一API访问高性能模型。它提供了从基础模型接入、微调到代理构建的一系列功能，包括检索增强生成（RAG）、自动推理检查及多Agent协作等特性。此外，其模型蒸馏技术能够有效提升效率并降低运行成本，广泛适用于文本生成、虚拟助手、图像生成等多种应用场景。
AI项目与工具 2025年06月12日