标签:大模型微调

训练数据量降低1万倍,谷歌提出超高质量数据主动学习方法

大模型应用于特定领域需数据微调,但为复杂任务微调大模型时,筛选高保真训练数据难度大、成本高。为此,谷歌提出新的可扩展主动学习筛选流程。该流程从初始...

腾讯LLaMA Pro大模型:突破大模型微调的知识遗忘难题

1. 引言:大模型微调中的挑战 - 大型语言模型(LLM)的微调在提升模型性能上起着关键作用,但面临知识遗忘的挑战。 - 香港大学的研究团队联合腾讯ARC实验...