Malcolm James McCormick var sønn av fotografen Karen Meyers og arkitekten Mark McCormick. Faren hans var kristen, og moren hans jødisk. Miller ble oppdratt som jøde, og feiret bar mitsvah. Han vokste opp i Point Breeze, en bydel i Pittsburgh, Pennsylvania. Som seksåring lærte han seg å spille piano, trommer, gitar og bass, og var fullt ut selvlært på alle instrumentene. Som barn drev han også med sport, blant annet amerikansk fotball, lacrosse og basketball. Barneskolen hans het Winchester Thurston School.