Load models saved with `nn.DataParallel` wrapper on a system with no GPU

ahxmeds: <p>Hi community,</p>
<p>I ended us saving my models with <code>nn.DataParallel()</code> using</p>
<pre><code class="lang-auto">torch.save(model.state_dict(), PATH)
</code></pre>
<p>I now understand I should have saved it using this instead</p>
<pre><code class="lang-auto">torch.save(model.module.state_dict(), PATH)
</code></pre>
<p>I want to use this model for inference on a CPU-only system now, which contains no GPUs. At this point, what are my options? I tried to following and my errors are given below.</p>
<pre><code class="lang-auto">device = torch.device('cpu')
model.load_state_dict(torch.load(PATH, map_location=device))
</code></pre>
<pre><code class="lang-auto">
File /anaconda/envs/dlml/lib/python3.8/site-packages/torch/nn/modules/module.py:1497, in Module.load_state_dict(self, state_dict, strict)
   1492         error_msgs.insert(
   1493             0, 'Missing key(s) in state_dict: {}. '.format(
   1494                 ', '.join('"{}"'.format(k) for k in missing_keys)))
   1496 if len(error_msgs) &gt; 0:
-&gt; 1497     raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format(
   1498                        self.__class__.__name__, "\n\t".join(error_msgs)))
   1499 return _IncompatibleKeys(missing_keys, unexpected_keys)

RuntimeError: Error(s) in loading state_dict for UNet:
	Missing key(s) in state_dict: "model.0.conv.unit0.conv.weight", "model.0.conv.unit0.conv.bias", "model.0.conv.unit0.adn.N.weight", "model.0.conv.unit0.adn.N.bias", "model.0.conv.unit0.adn.N.running_mean", "model.0.conv.unit0.adn.N.running_var", "model.0.conv.unit0.adn.A.weight", "model.0.conv.unit1.conv.weight", "model.0.conv.unit1.conv.bias", "model.0.conv.unit1.adn.N.weight", "model.0.conv.unit1.adn.N.bias", "model.0.conv.unit1.adn.N.running_mean", "model.0.conv.unit1.adn.N.running_var", "model.0.conv.unit1.adn.A.weight", "model.0.residual.weight", "model.0.residual.bias", "model.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.0.residual.weight", "model.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.2.0.conv.weight", "model.1.submodule.2.0.conv.bias", "model.1.submodule.2.0.adn.N.weight", "model.1.submodule.2.0.adn.N.bias", "model.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.2.0.adn.N.running_var", "model.1.submodule.2.0.adn.A.weight", "model.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.2.1.conv.unit0.adn.A.weight", "model.2.0.conv.weight", "model.2.0.conv.bias", "model.2.0.adn.N.weight", "model.2.0.adn.N.bias", "model.2.0.adn.N.running_mean", "model.2.0.adn.N.running_var", "model.2.0.adn.A.weight", "model.2.1.conv.unit0.conv.weight", "model.2.1.conv.unit0.conv.bias". 
	Unexpected key(s) in state_dict: "module.model.0.conv.unit0.conv.weight", "module.model.0.conv.unit0.conv.bias", "module.model.0.conv.unit0.adn.N.weight", "module.model.0.conv.unit0.adn.N.bias", "module.model.0.conv.unit0.adn.N.running_mean", "module.model.0.conv.unit0.adn.N.running_var", "module.model.0.conv.unit0.adn.N.num_batches_tracked", "module.model.0.conv.unit0.adn.A.weight", "module.model.0.conv.unit1.conv.weight", "module.model.0.conv.unit1.conv.bias", "module.model.0.conv.unit1.adn.N.weight", "module.model.0.conv.unit1.adn.N.bias", "module.model.0.conv.unit1.adn.N.running_mean", "module.model.0.conv.unit1.adn.N.running_var", "module.model.0.conv.unit1.adn.N.num_batches_tracked", "module.model.0.conv.unit1.adn.A.weight", "module.model.0.residual.weight", "module.model.0.residual.bias", "module.model.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.0.residual.weight", "module.model.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.2.0.conv.weight", "module.model.1.submodule.2.0.conv.bias", "module.model.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.2.0.conv.weight", "module.model.2.0.conv.bias", "module.model.2.0.adn.N.weight", "module.model.2.0.adn.N.bias", "module.model.2.0.adn.N.running_mean", "module.model.2.0.adn.N.running_var", "module.model.2.0.adn.N.num_batches_tracked", "module.model.2.0.adn.A.weight", "module.model.2.1.conv.unit0.conv.weight", "module.model.2.1.conv.unit0.conv.bias".
</code></pre>
<p>Please let me know. Thanks!</p>

ptrblck: <p>You could load the <code>state_dict</code> to the CPU and remove the <code>module.</code> tags manually.<br>
Afterwards you should be able to load it back to the model via <code>model.load_state_dict(fixed_state_dict)</code> again.</p>

ahxmeds: <p>Hi <a class="mention" href="/u/ptrblck">@ptrblck</a>,</p>
<p>Thanks for your reply. I tried this but got this error:</p>
<pre><code class="lang-auto">def get_base_model(device):    
    model = UNet(
        spatial_dims=3,
        in_channels=2,
        out_channels=2,
        channels=(16, 32, 64, 128, 256, 512),
        strides=(2, 2, 2, 2, 2),
        num_res_units=2,
        norm=Norm.BATCH,
    ).to(device)
    return model

device = torch.device('cpu')
model = get_base_model(device)

state_dict = torch.load(PATH, map_location=device)

fixed_state_dict = {}
for key, value in state_dict.items():
    fixed_state_dict[key.replace('module.', '')] = value.cpu()

model.load_state_dict(fixed_state_dict)
</code></pre>
<pre><code class="lang-auto">----&gt; 98 model.load_state_dict(fixed_state_dict)

File /anaconda/envs/dlml/lib/python3.8/site-packages/torch/nn/modules/module.py:1497, in Module.load_state_dict(self, state_dict, strict)
   1492         error_msgs.insert(
   1493             0, 'Missing key(s) in state_dict: {}. '.format(
   1494                 ', '.join('"{}"'.format(k) for k in missing_keys)))
   1496 if len(error_msgs) &gt; 0:
-&gt; 1497     raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format(
   1498                        self.__class__.__name__, "\n\t".join(error_msgs)))
   1499 return _IncompatibleKeys(missing_keys, unexpected_keys)

RuntimeError: Error(s) in loading state_dict for UNet:
	Missing key(s) in state_dict: "model.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.0.residual.weight", "model.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.2.0.conv.weight", "model.1.submodule.2.0.conv.bias", "model.1.submodule.2.0.adn.N.weight", "model.1.submodule.2.0.adn.N.bias", "model.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.2.0.adn.N.running_var", "model.1.submodule.2.0.adn.A.weight", "model.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.2.1.conv.unit0.adn.A.weight".
    Unexpected key(s) in state_dict: "model.1.sub0.conv.unit0.conv.weight", "model.1.sub0.conv.unit0.conv.bias", "model.1.sub0.conv.unit0.adn.N.weight", "model.1.sub0.conv.unit0.adn.N.bias", "model.1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub0.conv.unit0.adn.N.running_var", "model.1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub0.conv.unit0.adn.A.weight", "model.1.sub0.conv.unit1.conv.weight", "model.1.sub0.conv.unit1.conv.bias", "model.1.sub0.conv.unit1.adn.N.weight", "model.1.sub0.conv.unit1.adn.N.bias", "model.1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub0.conv.unit1.adn.N.running_var", "model.1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub0.conv.unit1.adn.A.weight", "model.1.sub0.residual.weight", "model.1.sub0.residual.bias", "model.1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub0.residual.weight", "model.1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub1.sub0.residual.weight", "model.1.sub1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub1.sub1.sub0.residual.weight", "model.1.sub1.sub1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.A.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.conv.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.conv.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.A.weight", "model.1.sub1.sub1.sub1.sub1.subresidual.weight", "model.1.sub1.sub1.sub1.sub1.subresidual.bias", "model.1.sub1.sub1.sub1.sub2.0.conv.weight", "model.1.sub1.sub1.sub1.sub2.0.conv.bias", "model.1.sub1.sub1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub2.0.conv.weight", "model.1.sub1.sub1.sub2.0.conv.bias", "model.1.sub1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub1.sub2.0.conv.weight", "model.1.sub1.sub2.0.conv.bias", "model.1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub2.0.conv.weight", "model.1.sub2.0.conv.bias", "model.1.sub2.0.adn.N.weight", "model.1.sub2.0.adn.N.bias", "model.1.sub2.0.adn.N.running_mean", "model.1.sub2.0.adn.N.running_var", "model.1.sub2.0.adn.N.num_batches_tracked", "model.1.sub2.0.adn.A.weight", "model.1.sub2.1.conv.unit0.conv.weight", "model.1.sub2.1.conv.unit0.conv.bias", "model.1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub2.1.conv.unit0.adn.A.weight".
</code></pre>

ptrblck: <p>Based on the error message it seems as if you’ve changed the model architecture and were using <code>submodule</code> layers before (I guess these were <code>nn.Sequential</code> containers) while you are now using <code>subX</code> modules.<br>
Could you check how <code>subX</code> are defined and do you remember where <code>submodule</code> came from?</p>

juluwangmingze: <aside class="quote no-group" data-username="ahxmeds" data-post="3" data-topic="178792">
<div class="title">
<div class="quote-controls"></div>
<img loading="lazy" alt="" width="24" height="24" src="https://discuss.pytorch.org/user_avatar/discuss.pytorch.org/ahxmeds/48/60048_2.png" class="avatar"> ahxmeds:</div>
<blockquote>
<p><code>fixed_state_dict[key.replace('module.', '')] = value.cpu()</code></p>
</blockquote>
</aside>
<p>replace with<br>
fixed_state_dict[key.replace(‘model.module.’, ‘’)] = value.cpu()</p>