Konflikter med Polen pågick under hela 1300-talet, men det var först när de forna fienderna Polen och Litauen förenades i samväldet Polen-Litauen denna pakt lyckades besegra ordensriddarna (se Slaget vid Tannenberg (1410)). Konflikten fortsatte under 1400-talet och efter trettonåriga kriget (1454–1466) krossades och besegrades Tyska orden, som då blev en polsk vasall igen. Ordensriddarna gjorde några försök till uppror men besegrades slutgiltigt 1521. År 1525 förvandlades Ordensstaten i Preussen från en kyrkostat till ett världsligt hertigdöme genom att den lutherska läran infördes av ordens högmästare Albrekt av Brandenburg-Ansbach, med kung Sigismund I av Polens godkännande. Här upprättades då det sekulariserade Hertigdömet Preussen under polsk överhöghet, styrt av huset Hohenzollern. 1561 gick Tyska ordens besittningar i Baltikum slutgiltigt under, sedan Livländska konfederationen med Livländska orden besegrats i Livländska kriget och även Livland och Kurland gett sig under Polsk-litauisk överhöghet, Ösel gett sig under dansk och Estland under svensk överhöghet.