Skip to content

[tutorial] Detailed Tutorial for Supporting Qwen2.5VL SFT #1120

@insomniaaac

Description

@insomniaaac

nice framework!
V1要支持qwen2.5vl的话,是不是需要

  1. 在model/dense 下新建qwen2.py并写一套config
  2. 在model/compose 下添加qwen2.5vl的相关代码,包括modeling_vision、modeling_projector、modeling_qwen2_5_vl、qwen2_5_vl_config等文件

我看到在v1/module下定义了一些算子,我是否需要在modeling中使用这些算子?直接把transformers的相关文件copy过来并不能直接使用么?恳请官方给一个简洁的教程,以供社区可以快速迁移使用新模型(包括qwen3vl moe等)并在这些模型的基础上做修改等

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions