Memory Layers
Memory Layers是一种由Meta研发的技术，通过引入可训练的键值查找机制，为模型增加了额外参数而不增加计算负担。它通过稀疏激活模式补充计算密集型前馈层，显著提升了模型在事实性任务中的表现，同时增强了模型的记忆与知识获取能力。Memory Layers的核心优势在于其高效的信息存储与检索机制，并且在问答、语言模型、推荐系统、知识图谱及对话系统等场景中具有广泛应用前景。
ORM
天工SkyMusic
天工SkyMusic是由昆仑万维公司推出的一款AI音乐生成模型，它基于昆仑万维的天工3.0超级大模型构建而成。
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具，用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型，利用MoE架构和异构计算策略实现高效推理，预处理速度达286 tokens/s，推理速度达14 tokens/s。项目提供灵活的模板框架，兼容多种模型，并通过量化和优化技术减少存储需求，适合个人、企业及研究场景使用。
WorldDreamer
WorldDreamer 是一种基于 Transformer 的通用世界模型，具备理解与预测物理世界动态变化的能力，专注于视频生成任务。它支持多种应用场景，包括文本到视频、图像到视频、视频编辑和动作序列生成，利用视觉 Token 化、Transformer 架构和多模态提示技术，实现了高效且高质量的视频生成。
ProPainter
ProPainter是一款由南洋理工大学S-Lab团队开发的AI视频修复工具，其核心功能包括自动检测并移除视频中的不需要物体、修补缺失或损坏部分以及扩展视频视野。该工具采用了双域传播技术和蒙版引导的稀疏视频Transformer，旨在提供高质量的视频修复解决方案，广泛应用于电影后期制作、历史视频修复、社交媒体内容创作及虚拟现实等领域。
---
ModernBERT
ModernBERT是一种基于Transformer架构的新型编码器-only模型，是对经典BERT模型的深度优化版本。它通过在大规模数据集上的训练，提升了对长上下文的理解能力，并在信息检索、文本分类、实体识别等多个自然语言处理任务中展现出卓越性能。此外，ModernBERT在速度和资源效率方面均有显著改进，适合应用于多个领域。
