N. C. E. Hertzberg var spiller og leder i norsk fotballs barndom. Han spilte for Akademisk Fodboldklub, gikk senere inn i Lyn og var visepresident i Norges Fotballforbund i 1911 og 1912. I mars 1909 ble han valgt til formann i Oslo Fotballkrets, men trakk seg allerede i juni etter en disputt om serieavviklingen. Hertzberg var pådriver for å innføre bandysporten til Norge, og i 1911 ble han utnevnt som leder av fotballforbundets nyopprettede komité som skulle administrere idretten. Komiteen organiserte norsk bandy fra 1911 til Norges Bandyforbund ble etablert i 1920. Som bandyspiller representerte han Kristiania Hockeyklub og Ready. Han ble norgesmester for Ready i 1919, 1920 og 1925. Han dømte NM-finalene i 1916 og 1928.