על אף הלחימה הרבה בליטא, לא כבשוה הטבטונים מעולם. בשנת 1410 הוכה המסדר על ידי צבא פולני-ליטאי מאוחד בקרב גרונוולד וכוחו נשבר סופית. כוחו של המסדר ירד בהדרגתיות עד אשר אוחד עם דוכסות פרוסיה ב-1525, במה שעתידה להיות ממלכת פרוסיה. המסדר הוסיף להחזיק נכסים ברחבי אירופה עד אשר בוטל על ידי נפוליאון ב-1809. עם זאת, הוסיף המסדר להתקיים תחת חסות בית הבסבורג בווינה. המסדר בוטל על ידי אדולף היטלר ב-1938, אך חידש את פעילותו לאחר מלחמת העולם השנייה ב-1945. מאז פועל המסדר בעיקר למטרות צדקה במרכז אירופה.