Gerhard III gifte seg omkring 1314 (pavelig dispensasjon 1325 og 1326) med Sofia av Mecklenburg-Werle (død 1339). Paret fikk følgende barn: Henrik II av Holstein (omkring 1317-1385), greve av Holstein Nikolaus av Holstein (omkring 1321-1397), greve av Holstein Elisabet av Holstein (død 1402), forlovet med den svensk-norske kongen Håkon VI Magnusson (1340–1380), men isteden giftet han seg i 1363 med Valdemar Atterdags datter Margrete Valdemarsdatter.