标签:微软研究院
大模型训练开销还能更小!微软推出首个FP4训练框架,训练效果与BF16相当
微软研究院最近推出了首个FP4精度的大模型训练框架,这一技术能够在保持与FP8和BF16相当的训练效果的同时,显著减少所需的存储和计算资源。该框架支持高达130...
重磅!微软开源最强小模型Phi-4,超GPT-4o、可商用
微软研究院近日开源了一款名为phi-4的小参数模型,该模型以其140亿参数的规模在多项基准测试中超越了包括OpenAI的GPT-4o在内的多个知名开闭源模型。phi-4在GP...