Diffusers documentation

AutoPipelineBlocks

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.35.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

AutoPipelineBlocks

AutoPipelineBlocks 是一种包含支持不同工作流程的块的多块类型。它根据运行时提供的输入自动选择要运行的子块。这通常用于将多个工作流程(文本到图像、图像到图像、修复)打包到一个管道中以便利。

本指南展示如何创建 AutoPipelineBlocks

创建三个 ModularPipelineBlocks 用于文本到图像、图像到图像和修复。这些代表了管道中可用的不同工作流程。

text-to-image
image-to-image
inpaint
import torch
from diffusers.modular_pipelines import ModularPipelineBlocks, InputParam, OutputParam

class TextToImageBlock(ModularPipelineBlocks):
    model_name = "text2img"

    @property
    def inputs(self):
        return [InputParam(name="prompt")]

    @property
    def intermediate_outputs(self):
        return []

    @property
    def description(self):
        return "我是一个文本到图像的工作流程!"

    def __call__(self, components, state):
        block_state = self.get_block_state(state)
        print("运行文本到图像工作流程")
        # 在这里添加你的文本到图像逻辑
        # 例如:根据提示生成图像
        self.set_block_state(state, block_state)
        return components, state

创建一个包含子块类及其对应块名称列表的AutoPipelineBlocks类。

你还需要包括block_trigger_inputs,一个触发相应块的输入名称列表。如果在运行时提供了触发输入,则选择该块运行。使用None来指定如果未检测到触发输入时运行的默认块。

最后,重要的是包括一个description,清楚地解释哪些输入触发哪些工作流。这有助于用户理解如何运行特定的工作流。

from diffusers.modular_pipelines import AutoPipelineBlocks

class AutoImageBlocks(AutoPipelineBlocks):
    # 选择子块类的列表
    block_classes = [block_inpaint_cls, block_i2i_cls, block_t2i_cls]
    # 每个块的名称,顺序相同
    block_names = ["inpaint", "img2img", "text2img"]
    # 决定运行哪个块的触发输入
    # - "mask" 触发修复工作流
    # - "image" 触发img2img工作流(但仅在未提供mask时)
    # - 如果以上都没有,运行text2img工作流(默认)
    block_trigger_inputs = ["mask", "image", None]
    # 对于AutoPipelineBlocks来说,描述极其重要

    def description(self):
        return (
            "Pipeline generates images given different types of conditions!\n"
            + "This is an auto pipeline block that works for text2img, img2img and inpainting tasks.\n"
            + " - inpaint workflow is run when `mask` is provided.\n"
            + " - img2img workflow is run when `image` is provided (but only when `mask` is not provided).\n"
            + " - text2img workflow is run when neither `image` nor `mask` is provided.\n"
        )

包含description以避免任何关于如何运行块和需要什么输入的混淆非常重要。虽然AutoPipelineBlocks很方便,但如果它没有正确解释,其条件逻辑可能难以理解。

创建AutoImageBlocks的一个实例。

auto_blocks = AutoImageBlocks()

对于更复杂的组合,例如在更大的管道中作为子块使用的嵌套AutoPipelineBlocks块,使用get_execution_blocks()方法根据你的输入提取实际运行的块。

auto_blocks.get_execution_blocks("mask")
< > Update on GitHub