I 1902 gjorde Cleve sin debut i Berlin hvor han fremførte sin egen pianokonsert i A-dur. Han bodde i Berlin til 1908. I 1907 var han solist ved en konsert for å hedre Edvard Grieg – med Grieg selv på dirigentpodiet. Han bodde i Berlin til 1908. Deretter bodde han en kort periode i København. I 1909 flyttet han til Kristiania hvor han bodde resten av sitt liv. Tilbake til Norge konsentrerte han seg om komposisjon. Musikken hans karakteriseres som senromantisk. Etter hvert fikk den et norskere preg. Cleve fikk Statens kunstnerlønn fra 1946. Fra 1926 til 1950 var han klaverlærer ved Musikkonservatoriet i Oslo.