Tauben vanhemmat olivat asemapäällikkö Johan Albert Taube ja Hilda Vilhelmiina Jundell sekä puoliso Saimi Sigrid Kaila, jonka kanssa Taubella oli kaksi lasta. Taube kävi seitsemän luokkaa Tyrvään yhteiskoulua, ennen kuin siirtyi sotilasuralle. Opiskeluaikanaan hän kuului Akateemiseen Karjala-Seuraan ja oli myöhemmin Heimosoturiliiton Laatokan-Karjalan osaston johtaja. Hän oli Käkisalmen kaupungin kansakoulujen johtokunnan jäsen ja varapuheenjohtaja. Sisällissodan aikana Taube toimi lähettinä. Hän osallistui Aunuksen retkikuntaan 1919 ja itäkarjalaisten kansannousuun 1921-1922. Asevelvollisuutensa Taube suoritti 1922-1924 ja kadettikoulun 1926-1927. Luutnantiksi hänet ylennettiin 1929 ja kapteeniksi 1935, luutnanttikurssin hän oli käynyt 1928 ja kapteenikurssin 1935-1936. Taube toimi nuorempana upseerina Karjalan kaartin rykmentissä (KKR) 1927-1928 ja Reserviupseerikoulun ilmatorjuntaupseerina 1928. Myöhemmin hän toimi Porin suojeluskuntapiirin Merikarvian suojeluskunnan paikallispäällikkönä ja VI alueen päällikkönä ja sitten luutnanttina 1934-1935 PPP:ssä ja vuodesta 1935 kapteenina Savon jääkärirykmentissä (SJR). Ratsastusta harrastanut Taube kehitti kranaatinheitinten ampumamenetelmiä.