Poska tok i 1890 juridisk eksamen ved Universitetet i Tartu og arbeidet deretter som advokat i Tallinn. Han var i årene 1913 til 1917 ordfører i Tallinn. I april 1917 ble Poska guvernør i Det autonome guvernatet Estland. Etter at , den estiske provinsforsamlingen, erklærte seg som landets øverste myndighet i november 1917, fulgte den estiske selvstendighetserklæringen 23. februar 1918. Poska ble 24. februar utnevnt til utenriksminister i Estlands første regjering og virket i denne stillingen for internasjonal anerkjennelse av Estland, blant annet ved å delta under fredsforhandlingene i Paris i 1919. Poska gikk i 1919 av som utenriksminister, men fortsatte å spille en sentral rolle i estisk utenrikspolitikk. Han ledet Estlands delegasjon under forhandlingene med Sovjet-Russland og undertegnet 2. februar 1920 på vegne av Estland fredsavtalen, den såkalte Tartu-traktaten, som innebar russisk anerkjennelse av Estlands selvstendighet.