Under medeltiden skiftade staden ofta härskare. När osmanerna trängde allt längre norrut under 1400-talet motstod Belgrad dem med ungersk hjälp (belägringen av Belgrad 1456 under ledning av János Hunyadi), men år 1521 erövrades staden slutligen av Osmanska riket. 350 år av osmanskt styre följde, med avbrott för tre kristna ockupationer. Under hela den Osmanska perioden kallades staden för "Dar-ul-Jihhad", det vill säga det heliga krigets hus/stad eftersom den fungerade som en brygga för alla militära operationer västerut. Under 1500- och 1600-talet upplevde Belgrad en storhetstid och hade då omkring 100 000 invånare, det var också under denna period som Belgrad med sina då cirka 200 moskéer var den moskétätaste staden i Europa efter Istanbul. På grund av de ständiga invasionerna, krigen och ödeläggelsen sjönk dock befolkningen och Belgrad förblev en småstad ända fram till industrialiseringen.