I 1972 ga Harold Melvin and the Blue Notes ut sin første singel, en ballade med tittelen «I Miss You». Sangen ble opprinnelig skrevet for The Dells, men gruppen sa nei til å spille den inn. Pendergrass synger mye av sangen med en rasp barytonstemme. Den inneholdt også Blue Notes-medlemmet Lloyd Parks falsettstemme i bakgrunnen. «I Miss You» ble en rytme- og blueshit som satte Blue Notes på kartet. Gruppens oppfølgersingle, «If You Don't Know Me by Now», tok gruppen til topp 10 på Billboard Hot 100, samtidig som den nådde nummer én på Billboards soul singelliste. I likhet med låten «I Miss You» var sangen opprinnelig beregnet på en annen artist, Philadelphiafødte Patti LaBelle og hennes gruppe Labelle, men gruppen kunne ikke spille inn den på grunn av andre avtaler. Pendergrass og LaBelle utviklet et nært vennskap som varte til Pendergrass død.