Philipp Scharwenka studerte fra 1865 ved Kullaks akademi i Berlin og var fra 1870 komposiajonslærer der, til han i 1881 i samme egenskap gikk over til sin brors konservatorium, der han ble meddirektør i 1891.