Etter at Strabo døde i 481 ble den andre Teoderik konge over hele den østgotiske nasjonen og begynte å bli en kilde for uro i Balkan. Zenon allierte seg med Teoderik som han utpekte som og selv til konsul for året 484, den første gang en barbar som ikke var borger av imperiet nådde en så høy posisjon. Zenon fikk Teoderik til å gå til krig mot Illus og usurperen Leontius, beleiret dem ved Papurius i 484–488. Imidlertid gjorde Teoderik opprør i 486 på nytt og angrep Konstantinopel, ødela byens vannforskyning, og Zenon måtte kjøpe seg fred. Han forhandlet med Teoderik og aksepterte eller foreslo at østgoterne skulle kunne invadere Italia og bekjempe Odovakar som det ble påstått hadde støttet Leontius. Det fjernet den germanske tilstedeværelsen i øst.