钛动工作:qwen8b模型微调与数据蒸馏
在钛动主要做了qwen3-8b-vl模型的微调,使用gemini-2.5-pro蒸馏数据。贴一下文档。
前期数据处理的过程:
- 下载视频。
- 将视频与提示词送入gemini-2.5-pro,让他生成关于该视频的10个营销相关的问题。
- 将问题、视频送入gemini-2.5-pro,生成答案QA对。
- 使用GPT检查QA对。
- 处理数据,将QA对转换为swift数据集,使用swift框架对模型进行微调。
这样训练出来的模型,使用另一个内部自研的标注打分(就是写提示词,检查每一个问题的专业程度,也是llm as a judge),最后在评测集上的得分高于微调之前的得分。
This post is licensed under CC BY 4.0 by the author.