Van Zyl urodził się w Kapsztadzie w 1873 roku jako syn prominentnego adwokata. Po ukończenie kwalifikacji prawniczych w 1898 roku Gideon dołączył do rodzinnej firmy. W czasie I wojny burskiej Gideon służył jako doradca w ministerstwie wojny.