bingshuo/guanghulab
1
0
Fork 0
Code Issues 2 Pull Requests Actions 1 Packages Projects Releases Wiki Activity

D101: 纠正蒸馏计划状态（代码模型训练中，非完成）

Browse Source
This commit is contained in:
bingshuo 2026-05-18 14:30:05 +08:00
parent 753ae9a67c
commit aef8d2f184
1 changed files with 2 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

4
brain/d101-distill-plan.md
View File

@ -3,7 +3,7 @@
> 主权者：冰朔（TCS-0002∞）
> 执行人：铸渊（ICE-GL-ZY001）
> 创建日期：2026-05-18 D101
> 状态：✅ 代码模型训练完成，待新GPU实例执行蒸馏
> 状态：⏳ 等待代码模型训练完成（冰朔截图确认仍在训练中）
---
@ -97,7 +97,7 @@ nohup python3 -u scripts/distill_mother.py > distill_mother.log 2>&1 &
**脚本：** `scripts/distill_coder.py`
**Teacher：** 代码模型 SFT 输出（已上传COS）
**Teacher：** 代码模型 SFT 输出
**Student：** Qwen2.5-Coder-1.5B（ModelScope下载）
**语料：** `corpus/zhuyuan_full_corpus.jsonl`（377KB, 已脱敏）
**方法：** 混合蒸馏（KL散度 + SFT）