Diffusers documentation
Intel Gaudi
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v0.35.1).
Intel Gaudi
Intel Gaudi AI 加速器系列包括 Intel Gaudi 1、Intel Gaudi 2 和 Intel Gaudi 3。每台服务器配备 8 个设备,称为 Habana 处理单元 (HPU),在 Gaudi 3 上提供 128GB 内存,在 Gaudi 2 上提供 96GB 内存,在第一代 Gaudi 上提供 32GB 内存。有关底层硬件架构的更多详细信息,请查看 Gaudi 架构 概述。
Diffusers 管道可以利用 HPU 加速,即使管道尚未添加到 Optimum for Intel Gaudi,也可以通过 GPU 迁移工具包 实现。
在您的管道上调用 .to("hpu")
以将其移动到 HPU 设备,如下所示为 Flux 示例:
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("一张松鼠在毕加索风格中的图像").images[0]
对于 Gaudi 优化的扩散管道实现,我们推荐使用 Optimum for Intel Gaudi。