I 1904 giftet Mayer seg med Margaret Shenberg, som han fikk to døtre sammen med. Den eldste, Edith Mayer, giftet seg med filmprodusenten William Goetz, som senere ble sjef for Universal Pictures. Den yngste, Irene Gladys Mayer, giftet seg med filmprodusenten David O. Selznick. Mayer skilte seg fra Shenberg i 1947. Året etter giftet han seg med Lorena Danker som han var gift med frem til sin død.