Gyllenhaal har vært i et forhold med skuespilleren Peter Sarsgaard siden 2002. De annonserte sin forlovelse i april 2006, og har datteren Romana (født 3. oktober 2006).