I krigen mot det persiske Sasanideriket (502–505) ble Theodosiopolis (dagens Erzurum, øst i Tyrkia) og Amida (i Mesopotamia) erobret av perserne, mn persiske provinser hadde også store lidelser og bysantinerne erobret tilbake Amida. Begge parter var utslitte da det ble inngått fred i 506 på grunnlag av status quo. Anastasios bygget deretter den sterke festningen Daras for å holde perserne tilbake i Nisibis (dagens Nusaybin). Imidlertid ble provinsene på Balkan ble etterlatt tynt med soldater, og var hjelpeløse i forsvaret mot invasjoner av slavere og bulgarere. For å beskytte Konstantinopel og dets nabolag mot denne trusselen fikk keiseren bygget Anastasiosmuren eller den lange mur, og som strakte seg fra Marmarahavet og til Svartehavet.