I 1961 giftet Carlin seg med Brenda Hosbrook, som han hadde møtt under en turné i Dayton i Ohio året før. Sammen fikk de ett barn, Kelly Marie Carlin. Hosbrook døde av leverkreft i 1997, 57 år gammel. Seks måneder senere møtte han Sally Wade. De giftet seg i 1998, og ekteskapet varte til hans død.