Huebner nasceu na cidade de Bushton no Kansas, filho de Samuel G. Huebner e Martha Richel. Ele passou sua infância na fazenda da família. Ele alistou-se no exército em 1910 e passou sete anos no 18º Regimento de Infantaria, chegando na patente de sargento. Durante a Primeira Guerra, Huebner liderou forças da 1ª Divisão de Infantaria na Batalha de Cantigny, na Batalha de Saint-Mihiel e na Ofensiva Meuse-Argonne. Por seus serviços na guerra foi condecorado com a Cruz de Serviço Distinto, a Medalha de Serviço Distinto e a Estrela de Prata.