标签:Colossal-AI

AI视频生成平台全球前3,成本暴降50%方案开源!500元GPU算力免费薅

Video Ocean是一个新兴的视频生成平台,以其低成本和快速迭代能力受到关注,成功登上Product Hunt全球产品热度榜单第三。该平台支持多种视频生成方式,包括文...

社区供稿 | 多轮对话推理速度提升 46%,开源方案打破 LLM 多轮对话的长度限制

第二段:讲述了StreamingLLM的优势和挑战,以及其通过观察注意力模块中Softmax的输出,解决了注意力 sink 的现象,提高了生成效果。第三段:介绍了Colossal-A...