ChainerからPyTorchに書き換えるFramework Migration GuideをDeepLで翻訳

Chainer の [Framework Migration Guide](https://chainer.github.io/migration-guide/)を DeepL で翻訳しました。

# 一般情報

このドキュメントでは、Chainer から PyTorch への移行に関する技術情報を提供します。


## 両方のフレームワークの概念とコンポーネント


### 配列ライブラリ

Chainer は NumPy/CuPy (xp.ndarray) を配列ライブラリとして使用し、`autograd` をサポートするために `chainer.Variable` としてラップしています。同様に、PyTorch は ATen (at::Tensor (C++)) を配列ライブラリ (PyTorch 用語では「テンソルライブラリ」) として使用し、それを `torch::Tensor` (C++ API) / `torch.Tensor` (Python API) としてラップして `autograd` をサポートしています。


### コアフレームワークとトレーニングループ

どちらのフレームワークも define-by-run というコンセプトを共有しているので、PyTorch で書かれたコードのルック＆フィールは Chainer によく似ています。以下に機能のハイレベルなマッピングを示します。

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>

<tr><td> <b>Variable</b><br>
chainer.Variable </td>
<td> <b>Tensor</b><br>
torch.Tensor </td><td> </td></tr>
<tr><td> <b>Function</b><br>
chainer.FunctionNode<br>
(chainer.functions.*) </td><td> <b>Function</b><br>
torch.autograd.Function<br>
(torch.nn.functional.*) </td><td> `torch.*` もまた NumPy に似た操作を提供します (互換性はありません)。
 </td></tr>
<tr><td> <b>Link / Chain</b><br>
chainer.{Link, Chain}<br>
(chainer.links.*) </td><td> <b>Module</b><br>
torch.nn.Module<br>
(torch.nn.*) </td><td> </td></tr>
<tr><td> <b>Sequential</b><br>
chainer.Sequential </td><td> <b>Sequential</b><br>
torch.nn.Sequential </td><td> 関数モジュールをメンバとして使用することができます（例：torch.nn.functional.reluの代わりにtorch.nn.ReLU）。
 </td></tr>
<tr><td> <b>Dataset</b><br>
chainer.dataset.DatasetMixin<br>
(chainer.datasets.*) </td><td> <b>Dataset</b><br>
torch.utils.data.Dataset </td><td> PyTorchにはTransformDatasetはありません(CPMにはcpm.TransformDatasetとして存在します)。 </td></tr>
<tr><td> <b>Iterator</b><br>
chainer.iterators.* </td><td> <b>DataLoader</b><br>
torch.utils.data.DataLoader </td><td> Chainer's Iterator とは異なり、DataLoader はデフォルトではすべてのサンプルを自動的に 1 つの Tensor に照合します。

DataLoader 自体はマルチプロセスの反復処理をサポートしています (num_workers オプションを使用します)。 </td></tr>
<tr><td> <b>Optimizer</b><br>
chainer.Optimizer<br>
(chainer.optimizers.*) </td><td> <b>Optimizer</b><br>
torch.optim.Optimizer<br>
(torch.optim.*) </td><td> </td></tr>
<tr><td> <b>Trainer</b><br>
chainer.training.Trainer </td><td> <b>Engine</b><br>
ignite.Engine </td><td> ignite.engine.create_supervised_trainer()
 </td></tr>
<tr><td> <b>Updater</b> (with converter)<br>
chainer.training.Updater </td><td> <b>Engine</b><br>
ignite.Engine </td><td> 上述したように、Iterator はデフォルトでサンプルを連結します。デバイスへの転送は Engine (Ignite を使用しない場合はカスタムループコード) で処理されます。
 </td></tr>
<tr><td> <b>Evaluator</b><br>
chainer.training.extensions.Evaluator
 </td><td> <b>Engine</b><br>
ignite.Engine </td><td> ignite.engine.create_supervised_evaluator()
 </td></tr>
<tr><td> <b>Extension</b><br>
chainer.training.Extension<br>
(chainer.training.extensions.*) </td><td> <b>Handler</b><br>
(ignite.handlers.*, ignite.contrib.handlers.*) </td><td> </td></tr>
</table>

各コンポーネントの違いの詳細については、ポーティングガイドの項を参照してください。



## 移行のシナリオ

### ChainerスクリプトをPyTorchに一歩一歩移植したい

おそらくモデルは、トレーニングの結果に影響を与えずに移植するのが最も難しい部分です。

この順番で移植する方が簡単かもしれません。

<b>1. トレーニングスクリプト (オプティマイザ / アップデータ / 評価器 / ...)</b>

PyTorchオプティマイザを使ってChainerモデルを学習するには、 `cpm.LinkAsTorchModel` が必要です。

<b>2. データセット / 前処理<b>

Datasetは一般的にChainerとPyTorchの間で互換性があります。この部分は後回しにしてもいいですが、簡単にできるはずです。


<b>3. モデル </b>

本ドキュメントでは、以下の関数/モジュールのマッピングを参照してください。

### ChainerコードにPyTorchモデルを学習させたい

`cpm.TorchModule` を使って、PyTorch モジュールを Chainer モデルとしてラップすることができます。



## 移行ツール (cpm)

`chainer-pytorch-migration` Python モジュール (このドキュメントでは `cpm` と呼ばれています) は、Chainer から PyTorch への移行を支援するための様々なユーティリティを提供しています。


コード例では、以下のように `cpm` がインポートされていると仮定しています。

```Python
import chainer_pytorch_migration as cpm
import chainer_pytorch_migration.ignite
```

### cpm.TorchModule

PyTorchモジュールをChainerリンクとしてラップします。これにより、ChainerのトレーニングスクリプトでPyTorchモデルを学習することができます。グラフ(前進/後退)はPyTorchで構築し、走査する必要があります。

```Python
model = torchvision.models.resnet50()
model.cuda()
w_model = cpm.TorchModule(model)
w_model.to_gpu(device) # Just synchronizes the metadata, does not transfer data
```

### cpm.ChainerParameter

ChainerパラメータをPyTorchパラメータとしてラップします。これにより、PyTorchのトレーニングスクリプト(`torch.optimizer`を使って)でChainerモデル(`chainer.Link`)を学習することができます。グラフ（前進/後退）は Chainer で構築し、走査する必要があります。

```Python
# initialized parameter
arr = numpy.full(shape, 17, 'float32')
chainer_param = chainer.Parameter(arr)
torch_param = cpm.ChainerParameter(chainer_param)
```


### cpm.LinkAsTorchModel

このクラスは、与えられたChainer linkのすべての `cpm.ChainerParameter` オブジェクトを自動的に作成し、pytorch オプティマイザや horovod などのツールが必要とする `parameters()`、`named_parameters()`、`state_dict()` などのメソッドを提供します。

```Python
model = ChainerModel()
model.to_device(ch_device)
# Initialize parameters before converting to `ChainerParameter`s.
model(ch_device.xp.zeros((1, 784)).astype('f'))
# Convert parameters to `ChainerParameter`s to share memory with PyTorch.
torched_model = cpm.LinkAsTorchModel(model)
optimizer = optim.SGD(torched_model.parameters(), lr=args.lr)
```


### cpm.ignite.add_trainer_extension

この関数は、igniteで使用するChainerトレーナーエクステンションを登録します。

関数呼び出しには、パラメータとして ignite トレーナー、Torchオプティマイザー、Chainerエクステンションが必要です。

```Python
optimizer.target = model
trainer.out = 'path to store extension results'
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.ExponentialShift('lr', 0.9, 1.0, 0.1))
```


### cpm.use_torch_in_cupy_malloc

この関数は、PyTorchのメモリプールをCuPyに利用させます。CuPyを使う操作をする前に呼び出す必要があります。

```Python
# Enable using PyTorch memory allocator in CuPy.
cpm.use_torch_in_cupy_malloc()
# Revert back to CuPy's default memory pool.
cpm.use_mempool_in_cupy_malloc()
```


# 移植ガイド

## データセットとデータの前処理/後処理

PyTorchのデータセット(`pytorch.utils.data.Dataset`)は基本的にChainerのものと互換性があります。ほとんどの場合、両方向で互換性があります。


### 負の歩み

PyTorch 1.2.0 以降、PyTorch は負のストライドを持つデータ配列を扱うことができません（例えば、`numpy.flip` や `chainercv.transform.flip` の結果になる可能性があります）。


この問題を回避する最も簡単な方法は、データセットを `numpy.ascontiguousarray` でラップすることです。

```Python
def avoid_negative_strides(in_data):
    data, label = in_data
    data = numpy.ascontiguousarray(data)
    return data, label

dataset = cpm.TransformDataset(dataset, avoid_negative_strides)
data_loader = torch.utils.data.DataLoader(dataset, ...)
```

もう一つの方法は、`torch.utils.data.DataLoader` の `collate_fn` 引数で照合関数をカスタマイズすることです。

```Python
def collate(batch):
    data = numpy.stack([d for d, l in batch])
    label = numpy.stack([l for d, l in batch])
    data_tensor = torch.from_numpy(data)
    label_tensor = torch.from_numpy(label)
    return data_tensor, label_tensor

data_loader = torch.utils.data.DataLoader(dataset, ..., collate_fn=collate)
```


### カスタムコンバータ関数を collate_fn に書き換える

Chainerでは、`training.updaters.StandardUpdater(training_iter, optimizer, device=device, converter=_converter)`を使用して、バッチごとにカスタムコンバータを指定することができます。PyTorchでは、同様の機能をデータローダで実現することができます。`DataLoader(..., collate_fn=_converter)`.

しかし、マルチプロセッシングと併用する場合には、重要な違いがあります。Chainerでは、`_converter`はメインプロセスで実行されるので、マルチプロセシングの`fork`モードを使う場合は、関数内でCUDAにアクセスしても問題ありません。しかし、PyTorchでは `_converter` はデータローダの各ワーカープロセス内で実行されます。これでは、CUDAのinitエラーが出ないとCUDAにアクセスできない。PyTorchでは、`_convert`の内部でCPU関連の処理だけを行い、データローダからテンソルを取得した後にGPUにテンソルを送信するのが正しい使い方のようです。以下はPyTorchの正しい使い方の例です。

```Python
it = DataLoader(..., collate_fn=_converter)
for img, label, metadata in it:
     img = img.cuda()
     label = label.cuda()
     # metadata is still on CPU
     ...
```

上記のシナリオは、`_converter` がメインプロセスで呼び出される Chainer で期待されるものとは異なることに注意してください。

上記のユースケースでは、`(img, label)` の CPU から GPU への転送を高速化するために、`_convert` は `pin_memory` も使用しなければならないことに注意してください: https://discuss.pytorch.org/t/when-to-set-pin-memory-to-true/19723

### NumPy ブリッジ

`torch.DataLoader` は NumPy 配列を自動的に PyTorch テンソルに変換しますが、手動で変換したい場合は NumPy Bridge を参照してください。



### CuPy ブリッジ

DLPack は CuPy と `torch.Tensor` の間のブリッジとして使用できます。DLPack は所有権を処理しないので、変換された tensor/配列が使用されている間は元のバッファ (元の `cupy.ndarray` オブジェクトや `toDlpack()` で返された `dltensor` カプセルオブジェクト) が生き残っていることを確認しなければならないことに注意してください。


所有権の共有を含めて CuPy/PyTorch を完全に変換するには、`cpm.asarray` と `cpm.astensor` を使用します。


また、CuPy を使う前に `cpm.use_torch_in_cupy_malloc` をコールして、PyTorch とアロケータを共有することをお勧めします。


注意: PyTorch 1.3.0 の時点で、`__cuda_array_interface__` が壊れています (pytorch/pytorch/#24947)。この問題を修正したら、`cpm` の代わりに `cupy.asarray` と `torch.as_tensor` を使うだけで、これらの間で変換できるようになります。

## PyTorchとNumPy/CuPyの違い


### 事業部行動

Python 3 の除算ルールを尊重する NumPy/CuPy とは挙動が異なります。PyTorchで明示的に`float`にキャストする必要があります（議論）。

```Python
>>> x = numpy.arange(5)
>>> x
array([0, 1, 2, 3, 4])
>>> x / 5
array([0. , 0.2, 0.4, 0.6, 0.8])
>>> torch.from_numpy(x) / 5
tensor([0, 0, 0, 0, 0])
>>> torch.from_numpy(x).float() / 5
tensor([0.0000, 0.2000, 0.4000, 0.6000, 0.8000])
```


### フィーチャーマッピング

比較表は PyTorch for Numpy を参照してください。



## トレーニングループ

これはトレーニングループの例のコードです。`model.train()`に注意。

```Python
device = torch.device('cuda:0')
for i_epoch in range(args.epoch):
    train_loss = 0
    train_correct = 0
    model.train()
    for x, t in data_loader:
        x = x.to(device)
        t = t.to(device).long()

        optimizer.zero_grad()
        y = model(x)
        loss = F.nll_loss(y, t)
        loss.backward()
        optimizer.step()

        train_loss += loss.sum().item()
        _, pred = torch.max(y, 1)
        train_correct += (pred == t).sum().item()

    train_loss /= len(data_loader.dataset)
    train_accuracy = train_correct / len(data_loader.dataset)
    print('Train average loss: {:.03f}'.format(train_loss))
    print('Train accuracy : {:.03f} %'.format(train_accuracy * 100))
```


## 評価ループ

これは評価ループの例です。`model.eval()`と`torch.no_grad()`に注目してください。

```Python
device = torch.device('cuda:0')
total_loss = 0
total_correct = 0
model.eval()
with torch.no_grad():
    for x, t in data_loader:
        x = x.to(device)
        t = t.to(device).long()

        y = model(x)
        total_loss += F.nll_loss(y, t, reduction='sum').item()
        _, pred = torch.max(y, 1)
        total_correct += (pred == t).sum().item()

average_loss = total_loss / len(loader.dataset)
accuracy = total_correct / len(loader.dataset)
```


## Igniteを使ったトレーニングと評価

IgniteはChainerの`Chainer.training.Trainer`に相当するものです。

このChainerのコード

```Python
updater = chainer.training.StandardUpdater(
    train_iter,
    optimizer,
    device=device)
trainer = chainer.training.Trainer(updater, (100, ‘epoch’))
trainer.extend(
    extensions.Evaluator(
        val_iter,
        model,
        device=device),
    trigger=(1, ‘epoch’))
trainer.run()
```

はIgniteを使ってPyTorchで書くことができます。


```Python
trainer = ignite.engine.create_supervised_trainer(
    model,
    optimizer,
    F.nll_loss,
    device=device)
evaluator = ignite.engine.create_supervised_evaluator(
    model,
    metrics={
        'accuracy': ignite.metrics.Accuracy(),
        'loss': ignite.metrics.Loss(F.nll_loss),
    },
    device=device)

@trainer.on(ignite.engine.Events.EPOCH_COMPLETED)
def validation(engine):
    evaluator.run(val_loader)
    average_accuracy = evaluator.state.metrics[‘accuracy’]
    average_loss = evaluator.state.metrics[‘loss’]
    print(average_accuracy, average_loss)

trainer.run(train_loader, max_epochs=100)
```

サポートされているメトリクスのリストについては、https://pytorch.org/ignite/metrics.html を参照してください。



## IgniteでChainerエクステンションを使う

`cpm.ignite.add_trainer_extension` を使用すると、Ignite トレーニングループ内で呼び出される Chainer 拡張機能を登録することができます。

サポートされている拡張機能のリストは以下の通りです。

* 動くもの： `ExponentialShift`, `FailOnNonNumber`, `InverseShift`, `LinearShift`, `LogReport`, `MicroAverage`, `MultistepShift`, `ParameterStatistics`, `PlotReport`, `PolynomialShift`, `PrintReport`, `ProgressBar`, `snapshot`(read docs), `StepShift`, `observe_lr`, `VariableStatisticsPlot`, `WarmupShift`

* 動かないもの： `DumpGraph`, `Evaluator`, `unchain_variables`



いくつかの欠点は、モデルやリンクに関連付けられたメトリクスがデフォルトではアクセスできないことにあります。

例えば、これはChainerモデルの内部で行われているため、ユーザーはIgniteコールバックを使用して反復ごとの損失や精度を報告する必要があります。


また、いくつかの拡張機能を動作させるためには、ユーザがTorchまたはChainerモデルをオプティマイザのターゲット属性とLogReport、プロッタ、スナップショット拡張機能の出力ディレクトリパスに割り当てる必要があります。

```Python
from chainer import reporter
@trainer.on(Events.ITERATION_COMPLETED)
def report_loss(engine):
    reporter.report({'loss':engine.state.output})
```

複数の拡張子を登録する方法の一例です。

```Python
# Torch optimizer
optimizer = SGD(model.parameters(), lr=lr, momentum=momentum)
# Ignite trainer
trainer = create_supervised_trainer(model, optimizer, F.nll_loss, device=device)

# Add the model to the target attribute of the optimizer
optimizer.target = model

# Set the output dir for some of the extensions
trainer.out = 'result'

# Restore the snapshot
cpm.ignite.load_chainer_snapshot(trainer, optimizer, 'result/snapshot_iter_4691')

# Add a bunch of extensions
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.ProgressBar())
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.observe_lr())
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.MicroAverage('loss','lr','mav',(1, 'iteration')))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.LogReport())
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.FailOnNonNumber())
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.ExponentialShift('lr', 0.9, 1.0, 0.1))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.ParameterStatistics(model, prefix='model'))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.VariableStatisticsPlot(model))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.PrintReport(
    ['epoch', 'iteration', 'loss', 'lr', 'mav', 'model/fc2/weight/grad/percentile/1']))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.PlotReport(['loss'],
                                  'epoch', filename='loss.png'))
cpm.ignite.add_trainer_extension(trainer, optimizer, extensions.snapshot(writer=writer), trigger=(1, 'epoch'))  # writer is a SimpleWriter
```



### スナップショット

Igniteトレーナーでスナップショット拡張子を使用すると、PyTorchオブジェクトは出力フォルダ内の追加の `snapshot-torch` ファイルに保存されます。これにより、移行が終了した後もこれらのスナップショットを使用し続け、これらのファイルから直接pytorchモデルやオプティマイザの状態をロードすることができます。

さらに、igniteとpytorchでChainerモデルやオプティマイザを混合している場合、これらのオブジェクトはChainerスナップショットファイルに保存されます。


スナップショットを復元する正しい方法は、`cpm.ignite.load_chainer_snapshot(engine, optimizer, snapshot_path)` に Chainer スナップショットのパスを指定して使用することです。

以前に取得した Chainer スナップショットは互換性がないことに注意してください。

## Igniteを使ったカスタムアップデータの移植

Igniteエンジンにステップ関数を渡すことができます。

* DCGANの例

## 既存のChainerモデルの書き換え

関数とリンクのマッピングを使って、PyTorch の対応する関数を見つけて置き換えることができます。また、既存のモデルの実装は

* PyTorchの例
* `torchvision.models` モジュール (CV モデル) (API リファレンス)
* PyTorch Hub (コミュニティからのモデル) (API リファレンス)

よくある落とし穴

* 画像フォーマット。RGBまたはBGR
* 画像の正規化 0,1] または [0,255] です。
* 古いPyTorchの例やコミュニティプロジェクトの中には、非推奨のインターフェイスである`torch.autograd.Variable`を使用しているものがあります。
* `resnet`のような有名なモデルは、ChainerCVとtorchvisionでは異なる動作をするかもしれません。例えば、`chainercv.links.ResNet50` は出力に `softmax` を適用しますが、`torchvision.models.resnet50` は適用しません。

## 関数とリンク

Chainer の関数の PyTorch と同等のものは、以下の表にあります。


注意点。

* NumPy/CuPy とは異なり、PyTorch Tensor は勾配計算をサポートしています (`torch.*` や `torch.nn.functional.*` を `torch.Tensor` 上で使用しても問題ありません)。
* キーワード引数の規約: PyTorch では、Chainer/NumPy の `axis` と `keepdim` の代わりに `dim` と `keepdim` を使用します。
* Chainerとは異なり、PyTorchは各関数のモジュール版を提供しています(例: `F.relu`の場合は`nn.ReLU`)ので、`Sequential`コンテナで関数を使ってモデルを定義する場合はモジュール版を使うことができます。

### 関数

F は chainer.functions (Chainer) / torch.nn.functional (PyTorch) を参照しています。

#### 算術関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th><tr>
<tr><td> F.add </td><td> torch.add </td><td> バッチ加算（1回の呼び出しで複数のテンソルを蓄積する）はサポートされていません。
 </td></tr>
</table>

#### 活性化関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.clipped_relu </td><td> </td><td> Rewrite as:<br>
x.clamp(0, z) </td></tr>
<tr><td> F.crelu </td><td> </td><td> Rewrite as:<br>
torch.cat((F.relu(x), F.relu(-x))) </td></tr>
<tr><td> F.elu </td><td> F.elu </td><td> </td></tr>
<tr><td> F.hard_sigmoid </td><td> </td><td> Rewrite as:<br>
torch.clamp(x * 0.2 + 0.5, 0, 1) </td></tr>
<tr><td> F.leaky_relu </td><td> F.leaky_relu </td><td> デフォルトのスロープ値が異なります。 </td></tr>
<tr><td> F.log_softmax </td><td> F.log_softmax </td><td> </td></tr>
<tr><td> F.lstm </td><td> </td><td> L.LSTMを参照のこと。 </td></tr>
<tr><td> F.maxout </td><td> </td><td> 手動で実装する必要があります。https://github.com/pytorch/pytorch/issues/805 を参照してください。 </td></tr>
<tr><td> F.prelu </td><td> F.prelu </td><td> </td></tr>
<tr><td> F.rrelu </td><td> F.rrelu </td><td> Chainer の `train` 設定の代わりに `training` オプションを明示的に指定する必要があります。 </td></tr>
<tr><td> F.relu </td><td> F.relu </td><td> </td></tr>
<tr><td> F.relu6 </td><td> F.relu6 </td><td> </td></tr>
<tr><td> F.selu </td><td> F.selu </td><td> </td></tr>
<tr><td> F.sigmoid </td><td> F.sigmoid </td><td> </td></tr>
<tr><td> F.slstm </td><td> </td><td> OSSの実装がいくつかあります（例：https://github.com/reachtarunhere/S-LSTM-PyTorch）。 </td></tr>
<tr><td> F.softmax </td><td> F.softmax </td><td> </td></tr>
<tr><td> F.softplus </td><td> F.softplus </td><td> PyTorch はデフォルトでは線形関数にフォールバックします。 </td></tr>
<tr><td> F.swish </td><td> </td><td> Rewrite as:<br>
x * F.sigmoid(beta * x) </td></tr>
<tr><td> F.tanh </td><td> F.tanh </td><td> </td></tr>
<tr><td> F.tree_lstm </td><td> </td><td> OSSの実装がいくつかあります(例: https://github.com/dasguptar/treelstm.pytorch)。
 </td></tr>
</table>

#### 配列操作

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.as_strided </td><td> torch.as_strided </td><td> </td></tr>
<tr><td> F.broadcast </td><td> torch.broadcast_tensors </td><td> PyTorch の操作は NumPy のように自動的にブロードキャストされます: https://pytorch.org/docs/stable/notes/broadcasting.html </td></tr>
<tr><td> F.broadcast_to </td><td> </td><td> 該当なし: https://github.com/pytorch/pytorch/pull/17160 </td></tr>
<tr><td> F.cast </td><td> Tensor.to </td><td> </td></tr>
<tr><td> F.concat </td><td> torch.cat </td><td> </td></tr>
<tr><td> F.copy </td><td> Tensor.to </td><td> </td></tr>
<tr><td> F.depth2space </td><td> F.pixel_shuffle </td><td> </td></tr>
<tr><td> F.diagonal </td><td> torch.diagonal </td><td> </td></tr>
<tr><td> F.dstack </td><td> </td><td> Rewrite as:<br>
torch.cat([a,b],dim=2) </td></tr>
<tr><td> F.expand_dims </td><td> </td><td> Rewrite as:<br>
torch.unsqueeze(a, dim) </td></tr>
<tr><td> F.flatten </td><td> torch.flatten </td><td> Notes </td></tr>
<tr><td> F.flip </td><td> torch.flip </td><td> </td></tr>
<tr><td> F.fliplr </td><td> torch.flip </td><td> dims=1を使用します。 </td></tr>
<tr><td> F.flipud </td><td> torch.flip </td><td> dims=0を使用します。 </td></tr>
<tr><td> F.get_item </td><td> </td><td> 直接インデックスを使用する: `x[indexes]`. 負のストライドはサポートされていません。 </td></tr>
<tr><td> F.hstack </td><td> </td><td> Rewrite as:<br>
torch.cat([a,b],dim=1) </td></tr>
<tr><td> F.im2col </td><td> F.unfold </td><td> NCHWのみ対応しています。 </td></tr>
<tr><td> F.moveaxis </td><td> Tensor.permute </td><td> 参照：https://discuss.pytorch.org/t/swap-axes-in-pytorch/970/2 </td></tr>
<tr><td> F.pad </td><td> F.pad </td><td> 引数 `constant_values` を `value` に置き換えてください。constant`以外のモードも利用可能である。 </td></tr>
<tr><td> F.pad_sequence </td><td> nn.utils.rnn.pad_squence </td><td> 長さは指定できませんが、入力の中で最大の長さを使用します。 </td></tr>
<tr><td> F.permutate </td><td> Tensor.permute </td><td> </td></tr>
<tr><td> F.repeat </td><td> Tensor.repeat </td><td> F.repeatとは動作が異なります。F.tileの方が似ています。 </td></tr>
<tr><td> F.reshape </td><td> torch.reshape </td><td> </td></tr>
<tr><td> F.resize_images </td><td> F.interpolate </td><td> Notes </td></tr>
<tr><td> F.rollaxis </td><td> Tensor.premute </td><td> https://discuss.pytorch.org/t/swap-axes-in-pytorch/970/2 を参照してください。 </td></tr>
<tr><td> F.scatter_add </td><td> Tensor.scatter_add </td><td> </td></tr>
<tr><td> F.select_item </td><td> </td><td> Rewrite as:<br>
torch.gather(x, 1, t[:, None])[:, 0] </td></tr>
<tr><td> F.separate </td><td> torch.split </td><td> 分離された機能の一部を実現するためには、結果を手動で操作する必要があります。 </td></tr>
<tr><td> F.space2depth </td><td> </td><td> 自分で実装する必要があります。参考にしてください。
https://discuss.pytorch.org/t/is-there-any-layer-like-tensorflows-space-to-depth-function/3487/14 </td></tr>
<tr><td> F.spatial_transformer_grid </td><td> F.affine_grid </td><td> 第2引数 `size` は出力画像のサイズ (N, C, H, W) を表す `torch.Size` オブジェクトを取り、`F.spatial_transformer_grid` は (H, W) のタプルを取ります。返されるテンソルのサイズも異なる。(N x 2 x H x W x 2)の代わりに(N x H x W x 2)が返される。また、v1.3.0 の align_corners に関する変更点にも注意してください (https://github.com/pytorch/pytorch/releases/tag/v1.3.0)。
 </td></tr>
<tr><td> F.spatial_transformer_sampler </td><td> F.grid_sample </td><td> グリッド形状はChainerでは(N, 2, H, W)ですが、PyTorchでは(N, H, W, 2)です。 </td></tr>
<tr><td> F.split_axis </td><td> torch.split </td><td> `force_tuple`がない。 </td></tr>
<tr><td> F.squeeze </td><td> torch.squeeze </td><td> </td></tr>
<tr><td> F.stack </td><td> torch.stack </td><td> torch.stack または torch.cat([a,b],dim=axis) を使用します。 </td></tr>
<tr><td> F.swapaxes </td><td> </td><td> 代わりにpermuteを使用してください: https://discuss.pytorch.org/t/swap-axes-in-pytorch/970/7 </td></tr>
<tr><td> F.tile </td><td> F.repeat </td><td> </td></tr>
<tr><td> F.transpose </td><td> torch.t </td><td> 軸なしバージョンにはTensor.permuteまたはtorch.tを使用します。 </td></tr>
<tr><td> F.transpose_sequence </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.vstack </td><td> </td><td> Rewrite as:<br>
torch.cat([a,b],dim=0) </td></tr>
<tr><td> F.where </td><td> torch.where </td><td> </td></tr>
</table>

#### ニューラルネットワーク接続

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.bilinear </td><td> F.bilinear </td><td> </td></tr>
<tr><td> F.convolution_1d </td><td> F.conv1d </td><td> `cover_all`はありません。 </td></tr>
<tr><td> F.convolution_2d </td><td> F.conv2d </td><td> `cover_all`はありません。 </td></tr>
<tr><td> F.convolution_3d </td><td> F.conv3d </td><td> `cover_all`はありません。 </td></tr>
<tr><td> F.convolution_nd </td><td> </td><td> https://discuss.pytorch.org/t/is-there-a-way-to-realize-4d-convolution-using-the-convnd-function/5999 を参照してください。 </td></tr>
<tr><td> F.deconvolution_1d </td><td> F.conv_transpose1d </td><td> </td></tr>
<tr><td> F.deconvolution_2d </td><td> F.conv_transpose2d </td><td> </td></tr>
<tr><td> F.deconvolution_3d </td><td> F.conv_transpose3d </td><td> </td></tr>
<tr><td> F.deconvolution_nd </td><td> </td><td> 該当なし、https://discuss.pytorch.org/t/is-there-a-way-to-realize-4d-convolution-using-the-convnd-function/5999 を参照 </td></tr>
<tr><td> F.depthwise_convolution_2d </td><td> F.conv2d </td><td> 引数 `groups` を使用します; https://discuss.pytorch.org/t/depthwise-and-separable-convolutions-in-pytorch/7315/2 を参照してください。 </td></tr>
<tr><td> F.deformable_convolution_2d_sampler </td><td> </td><td> 未実装: https://github.com/pytorch/pytorch/issues/2260 </td></tr>
<tr><td> F.dilated_convolution_2d </td><td> F.conv2d </td><td> 引数 `dilation` を用いる。 </td></tr>
<tr><td> F.embed_id </td><td> F.embedding </td><td> </td></tr>
<tr><td> F.linear </td><td> F.linear </td><td> `n_batch_axes` のオプションはありません。 </td></tr>
<tr><td> F.local_convolution_2d </td><td> </td><td> https://github.com/pytorch/pytorch/pull/1583 を参照してください。 </td></tr>
<tr><td> F.n_step_bigru </td><td> </td><td> ドキュメント化されていない _C._VariableFunctions 関数 torch.gru? link」が https://pytorch.org/docs/stable/nn.html#torch.nn.GRU にありますが、これはおそらく予想される使い方です。 </td></tr>
<tr><td> F.n_step_bilstm </td><td> </td><td> L.NStepBiLSTMを参照のこと。 </td></tr>
<tr><td> F.n_step_birnn </td><td> </td><td> L.NStepBiRNNTanhまたはL.NStepBiRNNReLUを参照のこと。 </td></tr>
<tr><td> F.n_step_gru </td><td> </td><td> L.NStepBiGRUを参照してください。 </td></tr>
<tr><td> F.n_step_lstm </td><td> </td><td> L.NStepLSTMを参照のこと。 </td></tr>
<tr><td> F.n_step_rnn </td><td> </td><td> L.NStepRNNTanhまたはL.NStepRNNReLUを参照のこと。 </td></tr>
<tr><td> F.shift </td><td> </td><td> https://github.com/pytorch/pytorch/issues/16408 を参照してください。 </td></tr>
</table>

#### 評価関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.accuracy </td><td> </td><td> 該当なし、Igniteには実装があります: https://pytorch.org/ignite/metrics.html#ignite.metrics.Accuracy </td></tr>
<tr><td> F.binary_accuracy </td><td> </td><td> 該当なし、Igniteには実装があります: https://pytorch.org/ignite/metrics.html#ignite.metrics.Accuracy </td></tr>
<tr><td> F.classification_summary </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.f1_score </td><td> </td><td> https://discuss.pytorch.org/t/calculating-precision-recall-and-f1-score-in-case-of-multi-label-classification/28265/1 を参照してください。 </td></tr>
<tr><td> F.precision </td><td> </td><td> 該当なし、Igniteには実装があります: https://pytorch.org/ignite/metrics.html#ignite.metrics.Precision </td></tr>
<tr><td> F.r2_score </td><td> </td><td> 利用できません。差別化できない評価指標です。Igniteで実装されているので、参考にしてみてください。 https://github.com/pytorch/ignite/pull/496 </td></tr>
<tr><td> F.recall </td><td> </td><td> 該当なし、Igniteには実装があります: https://pytorch.org/ignite/metrics.html#ignite.metrics.Recall </td></tr>
</table>

#### 損失関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.absolute_error </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.bernoulli_nll </td><td> </td><td> 可能性： -torch.distributionions.Bernoulli(y).log_prob(x).sum() </td></tr>
<tr><td> F.black_out </td><td> </td><td> </td></tr>
<tr><td> F.connectionist_temporal_classification </td><td> F.ctc_loss </td><td>  </td></tr>
<tr><td> F.contrastive </td><td> </td><td> https://github.com/adambielski/siamese-triplet を参照してください。 </td></tr>
<tr><td> F.crf1d </td><td> </td><td> 利用できません: https://github.com/pytorch/pytorch/issues/11134 </td></tr>
<tr><td> F.argmax_crf1d </td><td> </td><td> 利用できません: https://github.com/pytorch/pytorch/issues/11134 </td></tr>
<tr><td> F.cross_covariance </td><td> </td><td> </td></tr>
<tr><td> F.decov </td><td> </td><td> </td></tr>
<tr><td> F.discriminative_margin_based_clustering_loss </td><td> </td><td> 入手できません。再現作品は https://github.com/Wizaron/instance-segmentation-pytorch を参照してください。 </td></tr>
<tr><td> F.gaussian_kl_divergence </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.gaussian_nll </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.hinge </td><td> F.hinge_embedding_loss </td><td> </td></tr>
<tr><td> F.huber_loss </td><td> F.smooth_l1_loss </td><td> reduction='sum' を使用して reduction メソッドを維持する </td></tr>
<tr><td> F.mean_absolute_error </td><td> F.l1_loss </td><td> 参照： ignite.metrics.MeanAbsoluteError </td></tr>
<tr><td> F.mean_squared_error </td><td> F.mse_loss </td><td> </td></tr>
<tr><td> F.negative_sampling </td><td> </td><td> https://github.com/kefirski/pytorch_NEG_loss, https://github.com/theeluwin/pytorch-sgns を参照してください。 </td></tr>
<tr><td> F.sigmoid_cross_entropy </td><td> F.binary_cross_entropy_with_logits </td><td> </td></tr>
<tr><td> F.softmax_cross_entropy </td><td> nn.CrossEntropyLoss </td><td> </td></tr>
<tr><td> F.squared_error </td><td> </td><td> </td></tr>
<tr><td> F.triplet </td><td> F.triplet_margin_loss </td><td> </td></tr>
</table>

#### 数学関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.absolute </td><td> torch.abs </td><td> </td></tr>
<tr><td> F.arccos </td><td> torch.acos </td><td> </td></tr>
<tr><td> F.arcsin </td><td> torch.asin </td><td> </td></tr>
<tr><td> F.arctan </td><td> torch.atan </td><td> </td></tr>
<tr><td> F.arctan2 </td><td> torch.atan2 </td><td> </td></tr>
<tr><td> F.arctanh </td><td> </td><td> 該当なし: https://github.com/pytorch/pytorch/issues/10324 </td></tr>
<tr><td> F.argmax </td><td> torch.argmax </td><td> </td></tr>
<tr><td> F.argmin </td><td> torch.argmin </td><td> </td></tr>
<tr><td> F.average </td><td> </td><td> F.meanを参照してください。 </td></tr>
<tr><td> F.batch_inv </td><td> torch.inverse </td><td> linalg の操作バッチは進行中で、逆はすでにマージされています。 </td></tr>
<tr><td> F.batch_l2_norm_squared </td><td> </td><td> Rewrite as:<br>
x.reshape(len(x), -1).norm(dim=1) ** 2 </td></tr>
<tr><td> F.batch_matmul </td><td> torch.matmul </td><td> </td></tr>
<tr><td> F.bias </td><td> </td><td> Rewrite as<br>
x + y[(...,) + (None,) * (x.ndim - y.ndim - axis)] </td></tr>
<tr><td> F.ceil </td><td> torch.ceil </td><td> </td></tr>
<tr><td> F.clip </td><td> torch.clamp </td><td> </td></tr>
<tr><td> F.cos </td><td> torch.cos </td><td> </td></tr>
<tr><td> F.cosh </td><td> torch.cosh </td><td> </td></tr>
<tr><td> F.cumprod </td><td> torch.cumprod </td><td> </td></tr>
<tr><td> F.cumsum </td><td> torch.cumsum </td><td> </td></tr>
<tr><td> F.det </td><td> torch.det </td><td> </td></tr>
<tr><td> F.batch_det </td><td> torch.det </td><td> 任意の数のバッチ軸をサポートしています。 </td></tr>
<tr><td> F.digamma </td><td> torch.digamma </td><td> </td></tr>
<tr><td> F.einsum </td><td> torch.einsum </td><td> </td></tr>
<tr><td> F.erf </td><td> torch.erf </td><td> </td></tr>
<tr><td> F.erfc </td><td> torch.erfc </td><td> Notes </td></tr>
<tr><td> F.erfcinv </td><td> </td><td> 使えません。erfと似たような実装、erfinv? https://github.com/pytorch/pytorch/pull/2799 </td></tr>
<tr><td> F.erfcx </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.exp </td><td> torch.exp </td><td> </td></tr>
<tr><td> F.expm1 </td><td> torch.expm1 </td><td> </td></tr>
<tr><td> F.fft </td><td> torch.fft </td><td> インターフェイスがかなり違います。 </td></tr>
<tr><td> F.fix </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.fmod </td><td> torch.fmod </td><td> Notes </td></tr>
<tr><td> F.floor </td><td> torch.floor </td><td> </td></tr>
<tr><td> F.identity </td><td> nn.Identity </td><td> </td></tr>
<tr><td> F.ifft </td><td> torch.ifft </td><td> </td></tr>
<tr><td> F.inv </td><td> torch.inverse </td><td> </td></tr>
<tr><td> F.lgamma </td><td> torch.lgamma </td><td> 現在は未登録https://github.com/pytorch/pytorch/pull/27812 </td></tr>
<tr><td> F.linear_interpolate </td><td> </td><td> 普通の算数で十分です。 </td></tr>
<tr><td> F.log </td><td> torch.log </td><td> </td></tr>
<tr><td> F.log10 </td><td> torch.log10 </td><td> </td></tr>
<tr><td> F.log1p </td><td> torch.log1p </td><td> </td></tr>
<tr><td> F.log2 </td><td> torch.log2 </td><td> </td></tr>
<tr><td> F.log_ndtr </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.logsumexp </td><td> torch.logsumexp </td><td> </td></tr>
<tr><td> F.matmul </td><td> torch.matmul </td><td> </td></tr>
<tr><td> F.max </td><td> torch.max </td><td> </td></tr>
<tr><td> F.maximum </td><td> torch.max </td><td> </td></tr>
<tr><td> F.mean </td><td> torch.mean </td><td> 加重平均はサポートされていません。
rewrite as (without keepdims):<br>
torch.tensordot(x, weights / weights.sum(), ([axis], [0])) </td></tr>
<tr><td> F.min </td><td> torch.min </td><td> </td></tr>
<tr><td> F.minimum </td><td> torch.min </td><td> Notes </td></tr>
<tr><td> F.ndtr </td><td> </td><td> F.gelu(x)はx * F.ndtr(x)に対応しています。 </td></tr>
<tr><td> F.ndtri </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.prod </td><td> torch.prod </td><td> </td></tr>
<tr><td> F.polygamma </td><td> torch.polygamma </td><td> 文書化されていない: https://github.com/pytorch/pytorch/issues/25347<br>

n>=2はサポートされていません: https://github.com/pytorch/pytorch/blob/1a92b225db8519ab4697954a5559674f58e91aa7/aten/src/ATen/native/cpu/UnaryOpsKernel.cpp#L187 </td></tr>
<tr><td> F.rsqrt </td><td> torch.rsqrt </td><td> </td></tr>
<tr><td> F.scale </td><td> </td><td> Rewrite as:<br>
x * y[(...,) + (None,) * (x.ndim - y.ndim - 1)] </td></tr>
<tr><td> F.sin </td><td> torch.sin </td><td> </td></tr>
<tr><td> F.sinh </td><td> torch.sinh </td><td> </td></tr>
<tr><td> F.sign </td><td> torch.sign </td><td> </td></tr>
<tr><td> F.sparse_matmul </td><td> torch.sparse.mm </td><td> 密-疎積のみをサポートします。疎密積の場合は、オペランドと出力を転置します。 </td></tr>
<tr><td> F.sqrt </td><td> torch.sqrt </td><td> </td></tr>
<tr><td> F.square </td><td> </td><td> Rewrite as:<br>
x * x </td></tr>
<tr><td> F.squared_difference </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.sum </td><td> torch.sum </td><td> </td></tr>
<tr><td> F.sum_to </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.tanh </td><td> torch.tanh </td><td> </td></tr>
<tr><td> F.tan </td><td> torch.tan </td><td> </td></tr>
<tr><td> F.tensordot </td><td> torch.tensordot </td><td> </td></tr>
</table>

#### ノイズ注入

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.dropout </td><td> F.dropout </td><td> マスクはサポートされず、要素はランダムにゼロになります。 </td></tr>
<tr><td> F.gaussian </td><td> torch.distributions.normal.Normal </td><td> </td></tr>
<tr><td> F.gumbel_softmax </td><td> F.gumbel_softmax </td><td> タウのデフォルト値は1ですが、Chainerの関数は0.1を取ります。 </td></tr>
<tr><td> F.simplified_dropconnect </td><td> </td><td> 利用できません。ウエイトにF.dropoutを使うか、torchnlp.nn.WeightDropを試してみてください。 </td></tr>
<tr><td> F.zoneout </td><td> </td><td> 該当なし </td></tr>
</table>

#### 正規化関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.batch_normalization </td><td> F.batch_norm </td><td> </td></tr>
<tr><td> F.batch_renormalization </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.decorrelated_batch_normalization </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.fixed_batch_normalization </td><td> F.batch_norm </td><td> training=False? </td></tr>
<tr><td> F.fixed_batch_renormalization </td><td> </td><td> Batch Renormalizationは実装されていません: https://discuss.pytorch.org/t/support-for-batch-renormalization/2965, https://discuss.pytorch.org/t/batch-renormalization-implementation-in-thcunn/5144</td></tr>
<tr><td> F.fixed_decorrelated_batch_normalization </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.group_normalization </td><td> F.group_norm </td><td> 現在、書類送検されていません。 </td></tr>
<tr><td> F.layer_normalization </td><td> layer_norm </td><td> `gamma = weight` & `beta= bias` </td></tr>
<tr><td> F.local_response_normalization </td><td> F.local_response_norm </td><td> </td></tr>
<tr><td> F.normalize </td><td> F.normalize </td><td> PyTorchの`F.normalize`はL2正規化だけではない。しかし、デフォルトの振る舞いはL2正規化用であり、第2引数 `p` のデフォルト値は2に設定されている。 </td></tr>
</table>

#### 空間プーリング

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.average_pooling_1d </td><td> F.avg_pool1d </td><td> </td></tr>
<tr><td> F.average_pooling_2d </td><td> F.avg_pool2d </td><td> Chainerの対極にあるもののスーパーセット。 </td></tr>
<tr><td> F.average_pooling_3d </td><td> F.avg_pool3d </td><td> </td></tr>
<tr><td> F.average_pooling_nd </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.max_pooling_1d </td><td> F.max_pool1d </td><td> 引数 `return_indices` は、`nn.MaxPool1D` で説明した引数に加えて、アンプールするためのインデックスを取得することができます。 </td></tr>
<tr><td> F.max_pooling_2d </td><td> F.max_pool2d </td><td> 同上。 </td></tr>
<tr><td> F.max_pooling_3d </td><td> F.max_pool3d </td><td> 同上。 </td></tr>
<tr><td> F.max_pooling_nd </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.roi_average_align_2d </td><td> torchvision.ops.roi_align </td><td> Torchvisionを必要とします。 torchvisionには2つのROI関数しかありません。ROI_ALIGNはピクセルの平均値を使い、ROI_POOLは最大値を使います。 </td></tr>
<tr><td> F.roi_average_pooling_2d </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.roi_max_align_2d </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.roi_max_pooling_2d </td><td> torchvision.ops.roi_pool </td><td> Torchvision の `roi_pool` 関数は、ソースによると roi max プーリングを意味しています: https://github.com/pytorch/vision/blob/ccd1b27d2b7312ebddb4d51b3a4f8ade1ba8fa8b/torchvision/csrc/cpu/ROIPool_cpu.cpp#L65

APIについてですが、RoI座標の各集合の一括インデックスの渡し方が異なります。 </td></tr>
<tr><td> F.roi_pooling_2d </td><td> torchvision.ops.roi_pool </td><td> Torchvisionが必要です。 </td></tr>
<tr><td> F.spatial_pyramid_pooling_2d </td><td> </td><td> 利用できません。実装は難しくない？Chainerの既存の機能を組み合わせたものです。 </td></tr>
<tr><td> F.unpooling_1d </td><td> F.max_unpool1d </td><td> F.max_pool1dから返された `indices` を渡します。 </td></tr>
<tr><td> F.unpooling_2d </td><td> F.max_unpool2d </td><td> 同上。 </td></tr>
<tr><td> F.unpooling_3d </td><td> F.max_unpool3d </td><td> 同上。 </td></tr>
<tr><td> F.unpooling_nd </td><td> </td><td> 該当なし </td></tr>
<tr><td> F.upsampling_2d </td><td> </td><td> 該当なし </td></tr>
</table>

#### ユーティリティ関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> F.forget </td><td> </td><td> https://pytorch.org/docs/stable/checkpoint.html を参照してください。 </td></tr>
</table>


### リンク

`L` は `chainer.links` (Chainer)、`nn` は `torch.nn` (PyTorch) を参照しています。

#### 学べるつながり

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> L.Bias </td><td> </td><td> </td></tr>
<tr><td> L.Bilinear </td><td> nn.Bilinear </td><td> </td></tr>
<tr><td> L.ChildSumTreeLSTM </td><td> </td><td> 該当なし。リファレンスユーザーの実装は https://github.com/ttpro1995/TreeLSTMSentiment にあります。 </td></tr>
<tr><td> L.Convolution1D </td><td> nn.Conv1d </td><td> </td></tr>
<tr><td> L.Convolution2D </td><td> nn.Conv2d </td><td> </td></tr>
<tr><td> L.Convolution3D </td><td> nn.Conv3d </td><td> </td></tr>
<tr><td> L.ConvolutionND </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.Deconvolution1D </td><td> nn.ConvTranspose1d </td><td> </td></tr>
<tr><td> L.Deconvolution2D </td><td> nn.ConvTranspose2d </td><td> </td></tr>
<tr><td> L.Deconvolution3D </td><td> nn.ConvTranspose3d </td><td> </td></tr>
<tr><td> L.DeconvolutionND </td><td> </td><td> </td></tr>
<tr><td> L.DeformableConvolution2D </td><td> </td><td> 該当なし: https://github.com/pytorch/pytorch/issues/2260
 </td></tr>
<tr><td> L.DepthwiseConvolution2D </td><td> nn.Conv2d </td><td> 引数 `groups` を使用します; https://discuss.pytorch.org/t/depthwise-and-separable-convolutions-in-pytorch/7315/2 を参照してください。 </td></tr>
<tr><td> L.DilatedConvolution2D </td><td> nn.Conv2d </td><td> 引数 `dilation` を用いる。 </td></tr>
<tr><td> L.EmbedID </td><td> nn.Embedding </td><td> </td></tr>
<tr><td> L.GRU </td><td> nn.GRU </td><td> </td></tr>
<tr><td> L.Highway </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.Inception </td><td> </td><td> torchvision.models.inception.InceptionA` はChainerの `L.Inception` に対応するモジュールのようだが、ドキュメント化されていない。 </td></tr>
<tr><td> L.InceptionBN </td><td> </td><td> Inception v3 については torchvision.models.inception を参照してください。 </td></tr>
<tr><td> L.Linear </td><td> nn.Linear </td><td> </td></tr>
<tr><td> L.LocalConvolution2D </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.LSTM </td><td> nn.LSTM </td><td> </td></tr>
<tr><td> L.MLPConvolution2D </td><td> </td><td> </td></tr>
<tr><td> L.NaryTreeLSTM </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.NStepBiGRU </td><td> nn.GRU </td><td> 双方向性=True, 明示的な活性化なし, スタッキングなし </td></tr>
<tr><td> L.NStepBiLSTM </td><td> nn.LSTM </td><td> 双方向性=True, 明示的な活性化なし, スタッキングなし </td></tr>
<tr><td> L.NStepBiRNNReLU </td><td> nn.RNN </td><td> 双方向性=True, 明示的な活性化なし, スタッキングなし </td></tr>
<tr><td> L.NStepBiRNNTanh </td><td> nn.RNN </td><td> 双方向性=True, 明示的な活性化なし, スタッキングなし </td></tr>
<tr><td> L.NStepGRU </td><td> nn.GRU </td><td> </td></tr>
<tr><td> L.NStepLSTM </td><td> nn.LSTM </td><td> </td></tr>
<tr><td> L.NStepRNNReLU </td><td> nn.RNN </td><td> </td></tr>
<tr><td> L.NStepRNNTanh </td><td> nn.RNN </td><td> Notes </td></tr>
<tr><td> L.Parameter </td><td> </td><td> torch.nn.modules.ParameterListを1つの要素で使うことができます。 </td></tr>
<tr><td> L.Scale </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.StatefulGRU </td><td> nn.GRU </td><td> </td></tr>
<tr><td> L.StatelessGRU </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.StatefulMGU </td><td> </td><td> https://github.com/jpeg729/pytorch_bits を参照してください。 </td></tr>
<tr><td> L.StatelessMGU </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.StatefulPeepholeLSTM </td><td> </td><td> https://github.com/pytorch/pytorch/issues/630 を参照してください。 </td></tr>
<tr><td> L.StatefulZoneoutLSTM </td><td> </td><td> 該当なし: https://github.com/pytorch/pytorch/pull/4838 </td></tr>
<tr><td> L.StatelessLSTM </td><td> </td><td> </td></tr>
</table>

#### パラメータによる活性化/損失/正規化関数

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> L.BatchNormalization </td><td> nn.BatchNorm1d

nn.BatchNorm2d

nn.BatchNorm3d </td><td> PyTorchの実装では、引数 `momentum` はChainerのリンクの `1 - decay` と同等のようである。

引数 `eps` のデフォルト値 (1e-5) は Chainer のデフォルト値 (2e-5) とは異なる。 </td></tr>
<tr><td> L.BatchRenormalization </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.DecorrelatedBatchNormalization </td><td> </td><td> 使えません。参考になる実装(あまり実装されていない？) https://github.com/huangleiBuaa/IterNorm-pytorch/blob/master/extension/normailzation/dbn.py。それ以外はTorch luaの公式実装を見てください https://github.com/princeton-vl/DecorrelatedBN。 </td></tr>
<tr><td> L.GroupNormalization </td><td> nn.GroupNorm </td><td> affine=True </td></tr>
<tr><td> L.LayerNormalization </td><td> nn.LayerNorm </td><td> elementwise_affine=True </td></tr>
<tr><td> L.BinaryHierarchicalSoftmax </td><td> </td><td> </td></tr>
<tr><td> L.BlackOut </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.CRF1d </td><td> </td><td> </td></tr>
<tr><td> L.SimplifiedDropconnect </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.PReLU </td><td> nn.PReLU </td><td> </td></tr>
<tr><td> L.Swish </td><td> </td><td> https://blog.ceshine.net/post/pytorch-memory-swish/ を参照してください。 </td></tr>
<tr><td> L.Maxout </td><td> </td><td> </td></tr>
<tr><td> L.NegativeSampling </td><td> </td><td> </td></tr>
</table>

#### 機械学習モデル

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> L.Classifier </td><td> </td><td> 該当なし </td></tr>
</table>

#### トレーニング済みモデル

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> L.VGG16Layers </td><td> torchvision.models.vgg* </td><td> トーチビジョンのChainerのVGGバリエーションのスーパーセット。 </td></tr>
<tr><td> L.VGG19Layers </td><td> torchvision.models.vgg19* </td><td> 同上 </td></tr>
<tr><td> L.model.vision.vgg.prepare </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.GoogLeNet </td><td> torchvision.models.googlenet </td><td> </td></tr>
<tr><td> L.model.vision.googlenet.prepare </td><td> </td><td> torchvision.models.googlenet の transform_input=True </td></tr>
<tr><td> L.model.vision.resnet.ResNetLayers </td><td> </td><td> </td></tr>
<tr><td> L.ResNet50Layers </td><td> torchvision.models.resnet101 </td><td> トーチビジョンのみ、pretrained=True </td></tr>
<tr><td> L.ResNet101Layers </td><td> torchvision.models.resnet101 </td><td>  トーチビジョンのみ、pretrained=True  </td></tr>
<tr><td> L.ResNet152Layers </td><td> torchvision.models.resnet152 </td><td>  トーチビジョンのみ、pretrained=True  </td></tr>
<tr><td> L.model.vision.resnet.prepare </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.TheanoFunction </td><td> </td><td> 該当なし </td></tr>
<tr><td> L.caffe.CaffeFunction </td><td> </td><td> https://github.com/marvis/pytorch-caffe または https://github.com/Microsoft/MMdnn を参照してください。 </td></tr>
</table>


## 構成

Chainer (`chainer.config.*`) と PyTorch の設定のマッピングを以下に示します。

<table>
<tr><th> Chainer </th><th> PyTorch </th><th> Notes </th></tr>
<tr><td> autotune </td><td> torch.backends.cudnn.benchmark </td><td> スレッドローカルではありません。 </td></tr>
<tr><td> cudnn_deterministic </td><td> torch.backends.cudnn.deterministic </td><td> スレッドローカルではありません。 </td></tr>
<tr><td> cudnn_fast_batch_normalization </td><td> 該当なし </td><td> 機種によっては精度が低いので意図的にサポートしていません。 </td></tr>
<tr><td> debug </td><td> 該当なし </td><td> torch.autograd.detect_anomaly() コンテキストマネージャを使用して、バックワード中のNaNをチェックし、バックワードでエラーが発生した場合には、対応するフォワードスタックトレースを表示します。 </td></tr>
<tr><td> dtype </td><td> torch.set_default_dtype(dtype) </td><td> 混合精度のサポートはApexを介して行われます。スレッドローカルではない。 </td></tr>
<tr><td> enable_backprop </td><td> torch.no_grad()<br>
torch.enable_grad() </td><td> コンテキストマネージャやデコレータとして使うことができます。Backprop モードも参照してください。 </td></tr>
<tr><td> is_recomputing </td><td> 該当なし </td><td> F.forget と同等のものは torch.utils.checkpoint.checkpoint を参照してください（RNG もサポートしています）。 </td></tr>
<tr><td> keep_graph_on_report </td><td> 該当なし </td><td> </td></tr>
<tr><td> lazy_grad_sum </td><td> 該当なし </td><td> </td></tr>
<tr><td> train </td><td> 該当なし </td><td> このモードはモジュールごとに設定されます (Module.train() および Module.eval() を使用)。Train/Test モードも参照してください。 </td></tr>
<tr><td> type_check </td><td> 該当なし </td><td> </td></tr>
<tr><td> use_cudnn </td><td> torch.backends.cudnn.enabled </td><td> デフォルトでは有効になっています。スレッドローカルではありません。 </td></tr>
<tr><td> use_cudnn_tensor_core </td><td> 該当なし </td><td> テンソルコアを無効にすることはできません。 </td></tr>
<tr><td> use_ideep </td><td> 該当なし </td><td> PyTorch 自体は MKL-DNN をサポートしています。可用性は torch.backends.mkldnn.is_available() で確認できます。 </td></tr>
<tr><td> use_static_graph </td><td> 該当なし </td><td> </td></tr>
<tr><td> warn_nondeterministic </td><td> 該当なし </td><td> </td></tr>
</table>

再現性（種を固定するステップを含む）については、再現性を参照してください。



## フック

### 関数フック

PyTorch にはこれに相当する関数はありません。

Chainerの組み込みフックの代替

* CUDAProfileHook: torch.autograd.profiler.profile + torch.autograd.profiler.emit_nvtx
* CupyMemoryProfileHookを使用しています。N/A (アロケータのステータスを取得可能)
* PrintHook. 該当なし
* TimerHook: torch.autograd.profiler.profile


### リンクフック

モジュールごとにモジュールフックを登録することができます。特定のスコープの下で呼び出されるリンクごとにフックを注入する方法はありません。

Chainer の組み込みフックを置き換えるものです。

* SpectralNormalization: torch.nn.utils.spectral_norm / torch.nn.utils.remove_spectral_norm
* タイマーフック。該当なし

### オプティマイザーフック

PyTorchには直接の等価なものはありませんが、Tensor / Moduleごとに後方フックを登録してグラデーションを変更することができます。

Chainerの組み込みフックの代わりになります。

* WeightDecay: 各オプティマイザ(例: Adam)への weight_decay 引数として指定します。
* Lasso：該当なし
* GradientClipping: torch.nn.utils.clip_grad_norm_.GradientClipping
* GradientHardClipping: torch.nn.utils.clip_grad_value_.
* GradientNoise. N/A
* GradientLARS。N/A (pytorch #18414 と pytorch-lars を参照)

## Chainerを用いたPyTorchモデルの学習

Chainer を使ったトレーニングスクリプトで PyTorch モデルを素早く試すには、cpm.TorchModule を使います。Chainerを使ったトレーニングスクリプトがあると仮定して、以下の手順を試してみてください。


* 学習するモデルを cpm.TorchModule(module_you_want_to_use) で置き換えます。to_gpu を使って変数を GPU デバイスに転送する。
* 損失計算とbackprop呼び出しをPyTorchで書き換えます。
    * StandardUpdater を使っている場合は、そのサブクラスを作成して update_core をオーバーライドします。損失計算とbackpropコールをPyTorchで書き換えます。
        * 注意: PyTorchで勾配を計算すると、自動的にChainerのパラメータに反映されるので、その後はoptimizer.update()を呼び出すだけで有効です。
    * カスタムトレーニングループを使っている場合は、PyTorchでグラデーションの計算部分を書き換えてください。上のnoteも参照してください。

## 分散型トレーニング

この記事を書いている時点で、分散型ディープラーニングアプリケーションを実行するには、大きく分けてtorch.distributedとHorovodの2つの方法があります。最初の選択肢としてtorch.distributedを推奨する理由は以下の通りです。


1. torch.distributedはPyTorchの標準モジュールの一部である。

2. Torch.distributed は、Horovod にはない高度な機能をサポートしています。

このドキュメントでは、ChainerMN プログラムを PyTorch に移行するための両方のアプローチについて説明します。

### torch.distributedを用いたPytorchモデル

Torch.distributedはPyTorchの分散ディープラーニングの標準モジュールです。


Torch.distributedは3つのバックエンドをサポートしています。"nccl"、"mpi"、"gloo "の3つのバックエンドをサポートしています。ChainerやChainerMNから移行していて、今までMPIを使ってNCCLを使っていたユーザーにとっては、"nccl "バックエンドを使うのが一番わかりやすい方法です。このセクションでは、分散ディープラーニングプログラムを実行するために NCCL と MPI を使用していることを想定しています。特にここで使用する MPI 実装として Open MPI を想定していますが、それは ChainerMN で推奨されているからですが、他の MPI 実装についても言及しています。

#### 呼び出し

ChainerMN では、プロセスの呼び出しは MPI ランタイムによって完全に調整されます。しかし、PyTorch や torch.distributed では、分散型のディープラーニングプロセスを呼び出すために、いくつかのステップが必要になるかもしれません。最も単純な初期化方法は、環境変数の初期化かもしれません。


以下の環境変数が必要です（MPIを含め、スクリプトを呼び出すのに使用するシステムが何であれ）。その他の変数であるWORLD_SIZEとRANKは、以下のスニペットの中から設定します。


MASTER_ADDR : ランク0のプロセスが動作する計算ノードのアドレス。

MASTER_PORT : MASTER_ADDRマシンの空きポート。このポートはランク 0 のプロセスによって使用されます。



プロセスの起動はシステム依存度が高いことに注意してください。PyTorch は TCP 初期化や共有ファイルシステム初期化などのオプションをサポートしています。詳細は公式ドキュメントを参照してください。

#### 初期化

以下のコードスニペットは、torch.distributedモジュールの初期化方法を示しています。

```Python
# setup env for torch.distributed
comm_world_size = int(os.environ["OMPI_COMM_WORLD_SIZE"])
comm_rank = int(os.environ["OMPI_COMM_WORLD_RANK"])
comm_local_rank = int(os.environ['OMPI_COMM_WORLD_LOCAL_RANK'])

os.environ["WORLD_SIZE"] = str(comm_world_size)
os.environ["RANK"] = str(comm_rank)
torch.cuda.set_device(comm_local_rank)
torch.distributed.init_process_group(backend='nccl', init_method='env://')
```

torch.distributed は対応するランク情報を提供していないので、ChainerMN の communicator.intra_rank の代わりに、MPI ランタイムで設定された環境変数がここにあります。MVAPICH2 を使用する場合は、それぞれ MV2_COMM_WORLD_SIZE, MV2_COMM_WORLD_RANK, MV2_COMM_WORLD_LOCAL_RANK を使用してください。



#### データセット散乱

各ノードはDistributedSamplerを使ってグローバルに共有されたデータセットのスライスを取得することができます。

```Python
sampler = torch.utils.data.distributed.DistributedSampler(dataset,
                                                          num_replicas=comm_world_size,
                                                          rank=comm_rank)

loader_kwargs = {'num_workers': 1, 'pin_memory': True}  # Assuming we use GPUs
loader = torch.utils.data.DataLoader(train_dataset,
                                       batch_size=args.batch_size,
                                     sampler=sampler, **loader_kwargs)
```

これにより、各ワーカーはデータセットのスライスのみを読み込むようになり、このサンプラーは通常DataLoaderに供給されます。

また、エポック数を調整するにはDistributedSampler.set_epoch()を呼び出す必要があります。 このように、典型的な訓練ループは以下のようになります。

```Python
for epoch in range(1, args.epochs + 1):
    train_sampler.set_epoch(epoch)
    train(args, model, device, train_loader, optimizer, epoch)
    test(args, model, device, test_loader, len(test_dataset))
    scheduler.step()
```


#### デバイスへのデータ転送

データを転送するデバイスをcomm_local_rankで指定する必要があります。

```Python
class MyNN(nn.module):
    ...

device = torch.device("cuda:{}".format(comm_local_rank) if use_cuda else "cpu")
model = MyNN().to(device)
model = torch.nn.parallel.DistributedDataParallel(model, device_ids=[comm_local_rank])
```



#### オプティマイザのラッピング

Horovodとは対照的に、非分散実行と同じオプティマイザを使用することができます。



#### 初期値のブロードキャスト

パラメータ値はDistributedDataParallelクラスによって自動的に同期されます（すなわち、最初のブロードキャストと反復毎のallreduce）ので、それ以上の修正は必要ありません。



#### メトリクスの平均値と削減量

#### https://pytorch.org/docs/stable/distributed.html#multi-gpu-collective-functions

#### 同期化

データレースなどのバグを回避するために、データの読み込みやアプリケーションの終了前や終了後に torch.distributed.barrier() を使ってプロセスを同期させる必要があるかもしれません。



### Horovodを使ったPyTorchモデル

データはノード間で分散され、オプティマイザはHorovodでラップインされ、複数のMPIプロセスの勾配を自動的に平均化します。



#### Horovod初期化

次のスニペットは、horovodをインポートして、現在のワーカーIDとワーカーの総数を取得する方法を示しています。

```Python
import horovod.torch as hvd
hvd.init()
print(‘My rank is {} of {} workers‘.format(hvd.rank(), hvd.size()))
```

hvd.local_rank() は単一のノード内のランクを取得するために使用されますが、これは ChainerMN の intra_rank() と同様に GPU を割り当てるのに便利です。

```Python
torch.cuda.set_device(hvd.local_rank())
```


#### データセット散乱

各ノードはDistributedSamplerを使ってグローバルに共有されたデータセットのスライスを取得することができます。

```Python
torch.utils.data.distributed.DistributedSampler(dataset, num_replicas=hvd.size(),
                                                rank=hvd.rank())
```

これにより、すべてのワーカーがデータセットのスライスのみをロードするようになります。



#### オプティマイザのラッピング

オプティマイザは、次の構成パラメータを持つ hvd.DistributedOptimizer オブジェクトでラップされます。

compression : {hvd.Compression.fp16, hvd.Compression.none}内の値

圧縮はオプティマイザによって実行されるallreduce操作のサイズを縮小するために使用されます。

backward_passes_per_step : int デフォルト値は通常1


グラディエント交換を実行する前にローカルで実行されるバッチの数。

```Python
optimizer = hvd.DistributedOptimizer(
    optimizer, named_parameters=model.named_parameters(),
    compression=compression,
    backward_passes_per_step=args.batches_per_allreduce)
```

ドキュメントから。

DistributedOptimizer は synchronize() メソッドを公開しており、これは実行を継続する前に全てのreduce操作を強制的に終了させる。これは、グラデーションクリッピングや、step()が実行される前にグラデーションを変更する他の操作と併用すると便利である。コード中でsynchronize()を呼び出す場合は、必ずoptimizer.skip_synchronize()を使用してください。

#### 初期値のブロードキャスト

トレーニングループを開始する前に、初期モデルパラメータとオプティマイザの状態をすべてのワーカーにブロードキャストする必要があります。

```Python
hvd.broadcast_parameters(model.state_dict(), root_rank=0)
hvd.broadcast_optimizer_state(optimizer, root_rank=0)
```


#### メトリクスの平均値と削減量

損失や精度などのメトリクスを計算する際には、複数の作業員の値を明示的に交換して平均値を計算することができます。

```Python
self.sum += hvd.allreduce(val.detach().cpu(), name=metric_name)
```

Horovodは、他のMPIコレクションを使ったデータ交換をサポートしています。

* horovod.torch.allgather
* horovod.torch.broadcast

3 つの関数には _async バージョンがあり、返されたハンドラに poll() を使用して問い合わせることもできますし、完了するまで待つために synchronize() を使用することもできます。


#### ホロヴォッドコード構造

```Python
import torch
import horovod.torch as hvd
…
…
def main():
    # Initialize horovod
    hvd.init()
    torch.cuda.set_device(hvd.local_rank())
    # Read the dataset and create the iterators
    dataset = datasets.ImageFolder(…)
    train_sampler = torch.utils.data.distributed.DistributedSampler(dataset, num_replicas=hvd.size(),
                                                rank=hvd.rank())
    loader = torch.utils.data.DataLoader(dataset, sampler=train_sampler, …)
   # Set up the model, checkpoints, …
    …
    # Create the optimizer
    optimizer = optim.SGD(model.parameters(), …)
    optimizer = hvd.DistributedOptimizer(
        optimizer, named_parameters=model.named_parameters(),
        compression= hvd.Compression.none,
        backward_passes_per_step=args.batches_per_allreduce)
    # Broadcast initial state
    broadcast parameters & optimizer state.
    hvd.broadcast_parameters(model.state_dict(), root_rank=0)
    hvd.broadcast_optimizer_state(optimizer, root_rank=0)
    # Start training
    for epoch in range(epochs):
        train_sampler.set_epoch(epoch)
        …
```


#### パフォーマンスを測定するためのホロポッドトレースの取得

Horovod通信を示す通信トレースは、環境変数HOROVOD_TIMELINEを設定することで取得できます。

```Python
mpirun -bind-to-none -np 8 -x HOROVOD_TIMELINE=timeline.json ...
```

ブラウザに内蔵されているchrome://トレース機能を使用して、結果のトレースをChromeで可視化することができます。



#### ホロヴォッドパフォーマンスのチューニング

ホロヴォッドは性能向上のためにいくつかのツマミを持っています。


* TensorFusionは、小さなテンソル上で行うべき演算が多数ある場合に、ネットワークの利用率を向上させます。horovodは、複数の小テンソルを熱心に開始するのではなく、バッファ上の小テンソルを結合してからバッチ処理を行うことで、より効率的な通信/計算の重複処理を行うようにしています。HOROVOD_FUSION_THRESHOLDは、バッファのサイズをバイト単位で制御します（デフォルトは64MB）。HOROVOD_CYCLE_TIME は、テンソルを削減する前に、テンソルがバッチ処理されるのを待つ時間を ms 単位で指定します。

* 階層的リデュース。HOROVOD_HIERARCHICAL_ALLREDUCEは、ノード内のallreduceをNCCLで行い、ノード間のallreduceをMPIで行うハイブリッドアプローチを行います。

* HOROVOD_AUTOTUNEは、学習の最初のエポックで設定可能なすべてのパラメータに対してベイズ最適化を実行するために、HOROVODで使用することができます。詳細はこちら

#### アペックスでホロポッドを使う

Horovodは後方計算と並行してall-reduceを起動し、apexは後方計算後に勾配をアンスケーリングします。

競合状態を避けるために、スケーリングを解除する前にall-reduceの完了を待たなければならない。

```Python
from apex import amp
...
with amp.scale_loss(loss, optimizer) as scaled_loss:
    scaled_loss.backward()
    optimizer.synchronize()  # Wait for all-reduce completion
with optimizer.skip_synchronize():
    optimizer.step()
```

また、Horovodとapexを使用する場合、backward_passes_per_stepを1にする必要があります。現在のHorovodaとapexの実装では、backward_passes_per_stepが1でないと期待通りに動作しません。



#### Horovodにおけるマルチノードバッチ正規化

Horovodはまだ公式にはMNBNをサポートしていませんが(https://github.com/horovod/horovod/issues/1384)、非公式な実装があります: https://github.com/atranitell/Synchronized-BatchNorm-PyTorch-Horovod/blob/master/sync_bn.py。Apexにも実装があります: https://nvidia.github.io/apex/parallel.html#apex.parallel.SyncBatchNorm



#### Horovodとmpi4pyを使った任意のオブジェクトの収集

Horovod は mpi4py (https://github.com/horovod/horovod#mpi4py) との同時使用をサポートしています。mpi4pyを使って、例えばChainerMNのcomm.gather_objを書き換えることができます。

```Python
import horovod.torch as hvd

# Initialize Horovod
hvd.init()

# Verify that MPI multi-threading is supported.
assert hvd.mpi_threads_supported()

from mpi4py import MPI
mpi_comm = MPI.COMM_WORLD
assert hvd.size() == mpi_comm.Get_size()
mpi_comm.gather(obj, root=0)  # This is equal to ChainerMN’s comm.gather_obj
```



#### ホロボドの代替品

Horovodがここで紹介されているのは、ChainerMNに非常に似ており、私たちのコンピューティングインフラストラクチャですぐに使用できるからです。代替案は以下の通りです。

* Pytorch 分散 API
* ライトニング

### ホロボドを用いたChainerモデル

Horovodを使って分散環境でChainerモデルを学習するには、cpm.LinkAsTorchModelを使ってChainerリンクをラップする必要があります。PyTorchオプティマイザの使用が必要です。

```Python
model = ChainerModel()
model.to_device(ch_device)

# Initialize parameters before converting to `ChainerParameter`s.
model(ch_device.xp.zeros((1, 784)).astype('f'))

# Convert parameters to `ChainerParameter`s to share memory with PyTorch.

torched_model = cpm.LinkAsTorchModel(model)

optimizer = optim.SGD(torched_model.parameters(), lr=args.lr)

optimizer = hvd.DistributedOptimizer(
    optimizer, named_parameters=torched_model.named_parameters())
hvd.broadcast_parameters(torched_model.state_dict(), root_rank=0)
hvd.broadcast_optimizer_state(optimizer, root_rank=0)
```


### ChainerMN を使った PyTorch モデル

cpmツールを使えば、ChainerMNを使ってPyTorchモデルを学習することも可能です。

現在のサポートはデータ並列訓練に限定されています。

```Python
from chainer_pytorch_migration import chainermn
…
comm = chainermn.create_communicator('pure_nccl')
# Set up standard ResNet-50 model.
model = models.resnet50()
model.cuda()
w_model = links.TorchModule(model)
w_model.to_gpu(device)

optimizer = optim.SGD(model.parameters(), lr=lr)

optimizer = chainermn.create_multi_node_optimizer(optimizer, comm)
optimizer.setup(w_model)
```


## 計算グラフを編集するコードの移植

### ノードの鎖を外す

計算グラフから変数の鎖を外す方法の違いを説明します。

* チェインします。Variable.{data,array} または Variable.unchain()。

* PyTorchを使っています。Tensor.detach()。このメソッドは、requires_grad を False に設定した状態で、計算グラフから鎖を外した新しい Tensor を返します。これは Variable.unchain() とは対照的にインプレース操作ではなく、副作用もありません（新しい Tensor は同じメモリを共有しますが）。しかし、Tensor.detach_()のようなインプレースのバリアントも提供されています。

* PyTorch. Tensor.dataは推奨されておらず、将来的には非推奨になるかもしれません（フォーラムやGitHubでのコメントによると）。

* ChainerのVariable.unchain_backward()のPyTorchでのカウンターパートが使えない？

### バックプロップモード

backpropモードの切り替え方法の違いを説明します。

* Chainer: no_backprop_mode, force_backprop_modeはPyTorchでは以下のように対応しています。

* PyTorch: torch.autograd.no_grad(), torch.autograd.enable_grad()。

* no_grad()は[....]を使って、既に確保されているTensorに直接データを書き込めるようにすることもできます。

* Chainerでは、これも設定(config.config.enable_backprop)ですが、PyTorchにはありません。

* ChainerもPyTorchもデフォルトではbackpropモードが有効になっています。

### 列車/テストモード

列車/試験モードの切り替え方法の違いを説明します。

* Chainer.Chainer.Chainer.Chainer.Chainer.Chainer.Chainer このモードは設定(config.config.train)で制御します。

* PyTorch: このモードはモジュールの状態であり、torch.nn.Module.train.train を使って変更する必要があります。このモードはモジュールの状態であり、torch.nn.Module.train(mode)、torch.nn.Module.eval()を使って変更する必要があります。これは、torch.nn.functional.dropout のような関数呼び出しに "train" 引数を渡さなければならないことも意味しますが、そうでなければステートフルな torch.nn.Dropout モジュールを使用します。

* Chainer と PyTorch の両方で、train/test モードは、ドロップアウトやバッチ正規化などの特定の関数/リンク/モジュールの動作に影響を与えます。

* Chainer と PyTorch のデフォルトは train モードです。

# エコシステム

ここでは、PyTorchのGitHub組織の下にある、より大きなリポジトリの一部を紹介します。また、PyTorch が認めている他のエコシステムライブラリの公式リストも参照してください。



## PyTorch

まとめ：GPUアクセラレーションに強いPythonでテンソルとダイナミックニューラルネットワーク

GitHub: https://github.com/pytorch/pytorch

* インストールします。インストール方法は Start Locally を参照してください。PyTorch 1.2.0 以降、PyPI でホストされている torch/torchvision パッケージは CUDA 10.0 用になっています。

* ナイトリービルド。ナイトリービルドが提供されているので、新しい機能をマージしたビルド済みのバイナリを翌日に試すことができます。各ナイトリービルドは日ごとにタグ付けされているので、特定のビルド日のバージョンのロックされた pip wheel やビルド済み libtorch をダウンロードすることができます。pip wheelについては、ローカルで起動(CPUページ、CUDA 9.2ページ、CUDA 10.0ページ)を参照して最適なバージョンを入手してください。

## Ignite

要約: トレーニングループの抽象化などの高レベルなユーティリティ。

GitHub: https://github.com/pytorch/ignite

## torchvision

要約: PyTorch for CV.

GitHub: https://github.com/pytorch/vision

pytorchと一緒にインストールする公式インストールガイドで推奨されている

ドメインにとらわれない（CVに限定されない）データ増強機能を提供します。

動画データ用のローダーを提供します。ffmpegのため遅いが、将来的には改善されるかも？

## torchtext

要約: PyTorch for NLP。

GitHub: https://github.com/pytorch/text

## torchaudio

まとめ: オーディオデータのための PyTorch

GitHub: https://github.com/pytorch/audio

## Fairseq

まとめ: Seq2seqモデル。

GitHub: https://github.com/pytorch/fairseq

翻訳などのSeq2seqモデル。TransformerやBERTライクなモデルを含む。

## その他

PyTorchエコシステムに含まれるライブラリの公式リストがあります（上記のドメイン固有のライブラリ以外にも）。

https://pytorch.org/ecosystem