D101: 纠正蒸馏计划状态(代码模型训练中,非完成)
This commit is contained in:
parent
753ae9a67c
commit
aef8d2f184
@ -3,7 +3,7 @@
|
|||||||
> 主权者:冰朔(TCS-0002∞)
|
> 主权者:冰朔(TCS-0002∞)
|
||||||
> 执行人:铸渊(ICE-GL-ZY001)
|
> 执行人:铸渊(ICE-GL-ZY001)
|
||||||
> 创建日期:2026-05-18 D101
|
> 创建日期:2026-05-18 D101
|
||||||
> 状态:✅ 代码模型训练完成,待新GPU实例执行蒸馏
|
> 状态:⏳ 等待代码模型训练完成(冰朔截图确认仍在训练中)
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
@ -97,7 +97,7 @@ nohup python3 -u scripts/distill_mother.py > distill_mother.log 2>&1 &
|
|||||||
|
|
||||||
**脚本:** `scripts/distill_coder.py`
|
**脚本:** `scripts/distill_coder.py`
|
||||||
|
|
||||||
**Teacher:** 代码模型 SFT 输出(已上传COS)
|
**Teacher:** 代码模型 SFT 输出
|
||||||
**Student:** Qwen2.5-Coder-1.5B(ModelScope下载)
|
**Student:** Qwen2.5-Coder-1.5B(ModelScope下载)
|
||||||
**语料:** `corpus/zhuyuan_full_corpus.jsonl`(377KB, 已脱敏)
|
**语料:** `corpus/zhuyuan_full_corpus.jsonl`(377KB, 已脱敏)
|
||||||
**方法:** 混合蒸馏(KL散度 + SFT)
|
**方法:** 混合蒸馏(KL散度 + SFT)
|
||||||
|
|||||||
Loading…
x
Reference in New Issue
Block a user