Diffusers documentation

OpenVINO

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.35.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

OpenVINO

🤗 Optimum 提供与 OpenVINO 兼容的 Stable Diffusion 管道,可在各种 Intel 处理器上执行推理(请参阅支持的设备完整列表)。

您需要安装 🤗 Optimum Intel,并使用 --upgrade-strategy eager 选项以确保 optimum-intel 使用最新版本:

pip install --upgrade-strategy eager optimum["openvino"]

本指南将展示如何使用 Stable Diffusion 和 Stable Diffusion XL (SDXL) 管道与 OpenVINO。

Stable Diffusion

要加载并运行推理,请使用 OVStableDiffusionPipeline。如果您想加载 PyTorch 模型并即时转换为 OpenVINO 格式,请设置 export=True

from optimum.intel import OVStableDiffusionPipeline

model_id = "stable-diffusion-v1-5/stable-diffusion-v1-5"
pipeline = OVStableDiffusionPipeline.from_pretrained(model_id, export=True)
prompt = "sailing ship in storm by Rembrandt"
image = pipeline(prompt).images[0]

# 别忘了保存导出的模型
pipeline.save_pretrained("openvino-sd-v1-5")

为了进一步加速推理,静态重塑模型。如果您更改任何参数,例如输出高度或宽度,您需要再次静态重塑模型。

# 定义与输入和期望输出相关的形状
batch_size, num_images, height, width = 1, 1, 512, 512

# 静态重塑模型
pipeline.reshape(batch_size, height, width, num_images)
# 在推理前编译模型
pipeline.compile()

image = pipeline(
    prompt,
    height=height,
    width=width,
    num_images_per_prompt=num_images,
).images[0]

您可以在 🤗 Optimum 文档 中找到更多示例,Stable Diffusion 支持文本到图像、图像到图像和修复。

Stable Diffusion XL

要加载并运行 SDXL 推理,请使用 OVStableDiffusionXLPipeline

from optimum.intel import OVStableDiffusionXLPipeline

model_id = "stabilityai/stable-diffusion-xl-base-1.0"
pipeline = OVStableDiffusionXLPipeline.from_pretrained(model_id)
prompt = "sailing ship in storm by Rembrandt"
image = pipeline(prompt).images[0]

为了进一步加速推理,可以如Stable Diffusion部分所示静态重塑模型。

您可以在🤗 Optimum文档中找到更多示例,并且在OpenVINO中运行SDXL支持文本到图像和图像到图像。

< > Update on GitHub