Rooman valtakunnan hajottua Balkanin niemimaa muodosti pääosan Itä-Rooman eli Bysantin valtakunnasta, kunnes Osmanien valtakunta valloitti sen vähitellen 1300- ja 1400-luvuilla. Myös Venetsian tasavalta hallitsi ajoittain eräitä alueita Balkanin niemimaan rannikoilla. Bulgaareilla oli myös hetkellisesti itsenäinen kuningaskunta Balkanilla. Lopullisesti Bysantin valtakunta lakkasi olemasta, kun osmanit valloittivat sen pääkaupungin Konstantinopolin vuonna 1453. Tämän jälkeen Osmanien valtakunta hallitsi lähes koko Balkania 1800-luvulle saakka; vain niemimaan läntisin osa kuului Itävaltaan, myöhemmin Itävalta-Unkariin. Osmanien hallitsemaa Balkanin eteläosaa kutsuttiin nimellä Rumelia. 1800-luvulla Osmanien valtakunnasta itsenäistyi ensin Kreikka, myöhemmin Serbia, Montenegro, Bulgaria ja Romania, kun taas valtakunnan muista alueista irralleen joutunut Bosnia-Hertzegovina joutui Itävalta-Unkarin miehittämäksi. Näiden välitse Osmanien valtakunnan alue ulottui kuitenkin edelleen Adrianmereen saakka, kunnes Kreikka, Bulgaria ja Serbia jakoivat keskenään suurimman osan sen Euroopan-puoleisista alueista Balkanin sodissa vuosina 1912–1913. Samalla myös Albania itsenäistyi.