Ifølge Valerie Harper selv trodde foreldrene at de skulle få en gutt, og da hun var født valgte de å oppkalle henne etter de to kvinnelige tennisstjernene som hadde vunnet double-mesterskapet det året, Valerie Scott og Kay Stammers. Familien hennes hadde bakgrunn i Frankrike, England, Irland, Skottland og Wales. Harper hevdet å ha basert rollefiguren «Rhoda Morgenstern» på sin italienske stemor Angela Posillico, samt på Penny Ann Green (født Joanna Greenberg), som hun danset med i Broadway-musikalen . Hun fikk en katolsk oppdragelse, men før hun var voksen hadde hun sagt farvel til kirken.