Pocházel ze šlechtické rodiny Byngů, která dosáhla významného postavení díky službě v námořnictvu v 18. století. Byl pravnukem admirála George Bynga (1663–1733). Narodil se jako mladší syn důstojníka a poslance George Bynga (1735–1789), po matce Anne Conolly z bohaté irské rodiny zdědil statky v Irsku v hrabství Londonderry. Po matčině linii byl synovcem irského místokrále Johna Hobarta, hraběte z Buckinghamshire, a velitele ve válce proti USA, generála Williama Howe. Studoval ve Westminsteru a od roku 1793 sloužil v armádě. Již v roce 1794 dosáhl hodnosti kapitána. Během francouzských revolučních válek byl zraněn v Holandsku. Později byl pobočníkem generála Richarda Vyse během povstání v Irsku, během něhož utrpěl v roce 1798 další zranění. Jako podplukovník se zúčastnil obléhání Kodaně a neúspěšné expedice ve Walcheren. V hodnosti plukovníka (1810) odešel do Španělska, kde bojoval v bitvě u Vitorie a v roce 1813 byl povýšen na generálmajora.