한편 1198년에 성립된 독일기사단은 레반트 지역과는 별 관계를 맺지 않고, 신성로마제국 황제 프리드리히 2세의 칙서를 받아 발트 해 연안의 프루센과 리보니아 등 유럽계 이교도 민족들을 토벌하는 북방 십자군에 종사했다. 독일기사단은 이후 라트비아의 비기독교인 토벌에 종사하던 검의 형제기사단을 흡수, 발트해 연안에 튜턴 기사단국을 건국하여 하나의 국가로서 번영한다. 그러나 기사단국은 이후 폴란드 왕국과 대립하여 1410년 타넨베르크 전투에서 패배한 이후 쇠락의 길을 걷고, 1525년 기사단 총장 알브레히트가 루터교로 개종함으로써 폴란드 왕의 제후가 되니 이것이 프로이센의 시작이다.