I 1964 ble Nkomo arrestert av Ian Smiths regjering, og sonet ti år i fengsel. Mens Nkomo satt i fengsel mistet ZAPU sin ledende rolle i kampen mot det hvite mindretallsstyret til Mugabes ZANU.