Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

fft模型什么时候会适配diffusers库吗? #40

Open
shangvo opened this issue Mar 7, 2025 · 8 comments
Open

fft模型什么时候会适配diffusers库吗? #40

shangvo opened this issue Mar 7, 2025 · 8 comments

Comments

@shangvo
Copy link

shangvo commented Mar 7, 2025

目前lora模型可以很好的适配diffusers库,很好用,非常感谢。
好像测试了下,fft 模型与diffusers库的 flux-fill管线不适配,好像是changes the input channel number of the FLUX-Fill-Dev model from 384 to 448. 这个的原因。
请问是会重新适配,还是修改部分代码即可使用?

@maochaojie
Copy link
Collaborator

这个需要在输入层面做一下适配,因为额外增加的一些通道是由输入的特定图像经过vae以后产出的latent feature。

@shangvo
Copy link
Author

shangvo commented Mar 11, 2025

嗯,嗯。那请问
1-具体怎么操作,需要改diffiusers库FluxFillPipeline的原始代码吗?还是比如仅需要在FluxTransformer2DModel 修改传参,比如新的in channel?(in_channels (int, optional, defaults to 16) — The number of channels in the input.)
2-还是您们什么时候会像 ace_lora 那样,我看写了一个ace_plus_diffusers.py 的脚本呢?同样写一个diffusers_fft的脚本吗?

@shangvo
Copy link
Author

shangvo commented Mar 11, 2025

嗯,嗯。那请问 1-具体怎么操作,需要改diffiusers库FluxFillPipeline的原始代码吗?还是比如仅需要在FluxTransformer2DModel 修改传参,比如新的in channel?(in_channels (int, optional, defaults to 16) — The number of channels in the input.) 2-还是您们什么时候会像 ace_lora 那样,我看写了一个ace_plus_diffusers.py 的脚本呢?同样写一个diffusers_fft的脚本吗?

infer_fft.py 的脚本完全是封装的,都不知道咋调用,或者4090 24G显存完全会爆,也不知道咋加一点量化的代码进去,以上还请指导和回复,谢谢

@maochaojie
Copy link
Collaborator

这两天在搞comfyui的适配,你会用comfyui吗

@maochaojie
Copy link
Collaborator

可能晚点才有时间适配diffusers,需要多等几天

@shangvo
Copy link
Author

shangvo commented Mar 11, 2025 via email

@shangvo
Copy link
Author

shangvo commented Mar 11, 2025 via email

@liupengcnu
Copy link

这个需要在输入层面做一下适配,因为额外增加的一些通道是由输入的特定图像经过vae以后产出的latent feature。

你好,我现在想要实现ACE_FFT基于reference image的图片生成,但是由于通道数改变,不知道怎么解决,请问我应该怎么修改呢

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants