Den 12. april 1927 giftet Zeppo seg med Marion Benda. Paret ville adoptere et barn, Timothy, i 1944 og de ble skilt den 12. mai 1954. Den 18. september 1959 giftet han seg med Barbara Blakely, og han adopterte hennes sønn, Bobby Oliver, og ga ham sitt etternavn. Også dette ekteskapet gikk i oppløsning og de ble skilt i 1972 (eller 1973). Barbara Blakely kom senere til å gifte seg med sangeren Frank Sinatra.