Hans far var organisten Ludvig Mathias Lindeman og han var gift med komponisten Anna Severine Lindeman (1859–1938). Christiania OrganistskoleMusikk og organistskolen'' og hadde 175 elever i 1892 da navnet ble forandret til Musikkonservatoriet i Oslo, som fram til 1905 var eneste i Norge. Også kona, pianist og komponist Anna Severine Lindeman (1859–1938) underviste der. Etter Peter Lindemans bortgang i 1930 ble rektorvervet overtatt av sønnen og cellisten Trygve Lindeman (1896–1979).