Piip var medlem av den estiske provinsforsamlingen (), og senere også den konstitusjonelle forsamlingen (). Etter det ble han medlem av parlamentsforsamlingen Riigikogu. Fra 1917 til 1919 var Piip medlem av den estiske internasjonale delegasjonen i St. Petersburg og i London, og han deltok under Fredskonferansen i Paris i 1919. Samme år ble han viseutenriksminister, og i 1919-1920 var han med i Estlands delegasjon til fredskonferansen mellom Sovjet-Russland, Finland og Estland i Tartu.