Transformer架构
奇智孔明AInnoGC工业大模型
奇智孔明AInnoGC工业大模型是创新奇智在工业智能制造领域的重要成果,它通过其强大的参数量和专业的工业领域适应性,为制造业提供了全面的AI解决方案。
HunyuanVideo
HunyuanVideo是一款由腾讯开源的视频生成模型,具备130亿参数量,支持物理模拟、高文本语义还原、动作一致性和电影级画质等功能。它通过时空压缩的潜在空间训练,融合Causal 3D VAE与Transformer架构,实现图像和视频的统一生成,广泛应用于电影制作、音乐视频创作、游戏开发以及教育等领域。
ModernBERT
ModernBERT是一种基于Transformer架构的新型编码器-only模型,是对经典BERT模型的深度优化版本。它通过在大规模数据集上的训练,提升了对长上下文的理解能力,并在信息检索、文本分类、实体识别等多个自然语言处理任务中展现出卓越性能。此外,ModernBERT在速度和资源效率方面均有显著改进,适合应用于多个领域。
LlamaCoder
LlamaCoder 是一个基于 Llama 3.1 405B 模型的开源 AI 工具,能够快速生成全栈应用程序。它集成了 Sandpack、Next.js、Tailwind 和 Helicone 等组件,支持代码沙盒、应用路由、样式设计和可观测性分析。LlamaCoder 可根据用户请求生成组件,适用于构建多种类型的应用程序,并支持数据分析和 PDF 分析。