AI
DuoAttention
DuoAttention是由MIT韩松团队提出的新型框架,通过区分“检索头”和“流式头”两种注意力机制,显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用,加速了解码和预填充过程,并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。
BetterBugs
BetterBugs是一款基于Chrome浏览器的扩展工具,通过一键式屏幕捕获、屏幕录制和自动技术信息收集等功能,帮助用户高效生成详细的bug报告。它支持与多种项目管理和沟通工具集成,适用于软件开发、质量保证、项目管理和客户支持等多个场景,旨在提升团队协作效率和问题解决速度。
