Post

钛动工作:qwen8b模型微调与数据蒸馏

在钛动主要做了qwen3-8b-vl模型的微调,使用gemini-2.5-pro蒸馏数据。贴一下文档。

前期数据处理的过程:

  1. 下载视频。
  2. 将视频与提示词送入gemini-2.5-pro,让他生成关于该视频的10个营销相关的问题。
  3. 将问题、视频送入gemini-2.5-pro,生成答案QA对。
  4. 使用GPT检查QA对。
  5. 处理数据,将QA对转换为swift数据集,使用swift框架对模型进行微调。

这样训练出来的模型,使用另一个内部自研的标注打分(就是写提示词,检查每一个问题的专业程度,也是llm as a judge),最后在评测集上的得分高于微调之前的得分。

This post is licensed under CC BY 4.0 by the author.