qwen3.5训练开启mtp，vllm部署报错

[jianhai0527]

Checklist / 检查清单

• I have searched existing issues, and this is a new bug report. / 我已经搜索过现有的 issues，确认这是一个新的 bug report。

Bug Description / Bug 描述

How to Reproduce / 如何复现

qwen3.5训练开启mtp，vllm部署报错
vllm部署命令 vllm serve checkpoint --tensor_parallel_size 8 --speculative-config '{"method": "mtp", "num_speculative_tokens": 1}'

Additional Information / 补充信息

No response

[slowcamel]

请教一下，现在多模训练支持开MTP了嘛，对依赖的版本有没有要求？
训练的时候遇到这报错：ValueError: MTP currently does not support multimodal models.

[jyyang621]

你咋开启的MTP呢

[illusionnnnnnn]

你咋开启的MTP呢

963cb15#diff-42ecc91ca71482316eae747d1fc12d39f56c8b81bdaf187f36b6551b144235aaR72-L70
modelscope/mcore-bridge#14

[illusionnnnnnn]

请教一下，现在多模训练支持开MTP了嘛，对依赖的版本有没有要求？ 训练的时候遇到这报错：ValueError: MTP currently does not support multimodal models.

963cb15#diff-42ecc91ca71482316eae747d1fc12d39f56c8b81bdaf187f36b6551b144235aaR72-L70
modelscope/mcore-bridge#14

[slowcamel]

请教一下，现在多模训练支持开MTP了嘛，对依赖的版本有没有要求？ 训练的时候遇到这报错：ValueError: MTP currently does not support multimodal models.

后来可以了~谢谢

[deidaraho]

请问对3.5模型进行RFT，如何设置mtp相关参数？能把base model的mtp merge回RFT 后的模型么？