Osterman ble tilbakekalt i 1774 og ble i 1775 utnevnt til visekansler. Han var vel ansett hos Katarina II og Paul I, som senere utnevnte ham til rikskansler.