Nel 539 a.C., il re persiano Ciro II attaccò Babilonia e in poco tempo la conquistò annettendola al suo impero facendole perdere la sua indipendenza. Il nuovo sovrano espresse la volontà di preservare la città e guadagnò il favore dei sacerdoti locali grazie ad un decreto a loro favorevole che è arrivato fino ai nostri giorni inciso su un cilindro di argilla. La caduta del regno di Babilonia e la fine dell'indipendenza politica non significò comunque il declino delle metropoli mesopotamiche, nonostante che esse andarono incontro a numerose sconfitte nel tentativo di ribellarsi ai re persiani Dario I (521 a.C.) e al suo figlio Serse I. Babilonia rimase, pertanto, un'importante città dell'impero, anche se non la capitale, e l'intera Babilonia un crocevia strategico in cui la nobiltà persiana possedeva vaste aree. Nel 331 a.C. Babilonia accolse il re macedone Alessandro Magno, dopo la vittoria di Gaugamelae. Alessandro si occupò di far eseguire numerosi restauri e vi si trasferì pochi mesi dopo la sua spedizione in India, prima di morire nel giugno 323. È a Babilonia che si dovrà redigere la prima divisione dell'impero tra i suoi generali. Il nuovo sovrano, Seleuco I, non conferì a Babilonia lo status di capitale, dal momento che fece edificare per questo scopo Seleucia al Tigri a circa sessanta chilometri a nord-est; tuttavia Babilonia rimase molto importante, come testimonia ad esempio il fatto che suo figlio Antioco I vi rimase parecchi anni prima di prendere il potere. Più tardi il centro di gravità dell'impero persiano si spostò verso ovest e Antiochia divenne la capitale principale dei loro successori, i quali gradualmente persero il controllo di Babilonia in seguito all'avanzata dei Parti, che la conquistarono definitivamente con Mitridate II (123 a.C. - 88 a.C.).