解密prompt系列27. LLM对齐经验之如何降低通用能力损失

先说训练方案，论文先是分析了模型在微调过程中能力损失的一个主要原因是
Format Specialization，也就是模型过拟合了微调任务的输出格式。举几个例子

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。