标签:显存优化

4090单卡跑满血版DeepSeek-R1,清华团队开源项目再破大模型推理门槛

清华大学KVCache.AI团队与趋境科技联合推出的KTransformers开源项目,通过技术创新实现了千亿参数模型在消费级硬件上的本地化部署。该项目最新版本支持24G显...

DeepSeek用的GRPO占用大量内存?有人给出了些破解方法

群组相对策略优化(GRPO)作为一种在线学习算法,通过使用训练过程中由模型自身生成的数据进行迭代改进,已因其高效性和易用性成为大型语言模型强化学习中的...

AAAI 2025丨2080Ti 也能 4K 图像抠图 !美图&北交大提出超高分辨率自然图像抠图算法 MEMatte

美图影像研究院(MT Lab)与北京交通大学联合提出了一种名为MEMatte的显存友好型自然图像抠图框架,旨在解决显存受限环境下的高清图像精细抠图问题。该研究针...