Gilbert giftet seg med skuespillerinnen Leatrice Joy i 1922. De fikk en datter, Leatrice Gilbert Fountain, men det stormfulle ekteskapet varte bare i to år. Paret skilte seg i 1924. I 1926 spilte Gilbert i sin aller første film mot Greta Garbo. Gilbert spilte mot Garbo for siste gang i filmen (1933), regissert av Rouben Mamoulian.