Det gammelprøyssiske området Ermland ble kristnet/erobret av Den tyske ridderorden tidlig på 1200-tallet. Ermland bispedømme ble grunnlagt i 1243 samtidig med de tre andre bispedømmene i Preussen (Pomesania, Kulm og Samland bispedømme), og utgjorde den vestlige delen av det senere Øst-Preussen. Det var dermed et av ni bispedømmer som eksisterte i De tyske riddernes ordensstat, som også var verdslig hersker i to tredjedeler av bispedømmet. Resten var formelt i biskopen av Ermlands besittelse (utgjorde altså et høystift). I 1255 ble de prøyssiske bispedømmene lagt til Rīgas kirkeprovins. Bispesetet var opprinnelig Braunsberg (i dag ), men ble i 1280 flyttet til Frauenburg (). Biskopens residens lå imidlertid i Heilsberg ().