Som så mange afroamerikanske musikere, var det i kirken Marvin Gaye opptrådte med sang de første gangene. Faren var pastor i pinsemenigheten House of God. Han begynte sin karriere i Motown i 1960 og ble snart Motowns mestselgende mannlige artist. Han fikk utallige hitsanger i løpet av 1960-tallet, blant dem «Stubborn Kind of Fellow», «How Sweet It Is (To Be Loved By You)», «I Heard It Through the Grapevine», og flere duetter med Tammi Terrell, inkludert «Ain't No Mountain High Enough» og «You're All I Need to Get By», før han bevegde seg videre mot sitt personlige musikalske uttrykk.