Cleve ble født inn i en musikalsk familie, og var sønn av organist i Kongsberg kirke, Andreas Johan Julius Klewe (1832–1903). Cleves musikalske talent viste seg tidlig, og han begynte å spille klaver tre år gammel. Som 8-åring hadde han sin første offentlige opptreden. Han ble først undervist av faren, og fra 1895 studerte han i Kristiania under Otto Winther-Hjelm. I 1898 flyttet han til Berlin, hvor han studerte under Oscar Raif og brødrene Scharwenka.