工具
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。
Video Candy
一款在线视频编辑器,Video Candy提供一系列用于编辑和增强视频的工具,界面友好、100%免费使用,无需帐户,可以直接通过网络浏览器访问使用。
Content At Scale
一个强大的AI SEO写作工具,它通过自动化和优化的内容创作流程,帮助营销人员和企业主提高在线可见性和品牌影响力。它的深度研究功能和多语言支持使其成为全球营销人员的强大工具。
