Piłsudski zasvätil svoj život vízii slobodného Poľska a boji proti nadvláde cárskeho Ruska. V rámci týchto plánov podporoval spravodajsky vo vojne s cárskym Ruskom najprv Japonsko (v rusko-japonskej vojne) a neskôr vojensky Ústredné veľmoci v prvej svetovej vojne, v ktorej viedol ako brigádny generál tzv. Poľskú légiu na západnom fronte. V roku 1917 ju rozpustil, keď sa ukázalo, že Nemecko v skutočnosti neplánuje umožniť existenciu poľského štátu. Nemci ho za to uväznili v Magdeburgu. Do Poľska sa vrátil 8. novembra 1918 (Nemci ho tam podobne ako Lenina poslali v súkromnom vlaku). Dňa 11. novembra bol menovaný za vrchného veliteľa poľských ozbrojených síl a o tri dni neskôr hlavou štátu (polsky "naczelnik państwa"). Viedol poľské sily v rusko-poľskej vojne (19191921), v ktorej najskôr viedol úspešný úder na Ukrajinu, aby ho potom lepšie vybavená a početnejšia Červená armáda zahnala späť až k Varšave. V bitke o Varšavu však Poliaci nečakane zvrátili svoju zlú situáciu. Poľské vojská pod Piłsudského vedením, kvôli zásadným chybám boľševického velenia porazili a prakticky úplne zničili severnú skupinu Červenej armády vedenú M. V. Tuchačevským a nedali svojmu nepriateľovi možnosť spamätať sa.