Den første polsk-litauiske union ble imidlertid for en tid splittet av rivalisering mellom Jogaila (Władysław) og hans fetter Vytautas. I 1401 delte de makten, slik at Jogaila ble konge av Polen, mens Vytautas ble storfyrste av Litauen. Men de kunne samarbeide i kampen mot ytre fiender, først og fremst mot Den tyske orden, og de lyktes i å sikre vestgrensen mot Preussen (en grense som besto omtrent uforandret til 1918). Sluttpunktet for striden med de tyske ordensridderne var den polske og litauiske seieren i det store slaget ved Tannenberg (Grünewald) 15. juli 1410. Dette stanset videre tysk ekspansjon østover. "Den hvite rytter," brukt blant annet i riksvåpenet, er inspirert av dette slaget. Det store litauiske riket som vokste frem i middelalderen var en løs føydalstat med svak sentralmakt og betydelig kulturelt mangfold. Litauerne var i klart mindretall. miniatyr|Den kuriske landtunge Den tysk-romerske keiser ønsket å gjøre Litauen til keiserlig len med Vytautas som konge, og hans kroning skulle finne sted i 1429. Men polske magnater klarte å forhindre kroningen ved å beslaglegge kronen som keiseren sendte til Litauen. En ny krone ble bestilt i Tyskland og en nye kroningsdato fastsatt, men Vytautas omkom i en ulykke i 1430 før kroningen ble gjennomført. Etter at Vytautas var død uten arvinger, kunne Jogaila innsette sin sønn Kazimierz som arving til begge riker, og den polsk-litauiske union ble gjenopprettet i 1434. I de neste hundre år økte den polske innflytelsen i Litauen.