La primitiva chiesa di San Marco venne poco dopo sostituita da una nuova, sita nel luogo attuale e costruita nell'832; questa però andò in fiamme durante una rivolta nel 976 e fu quindi nuovamente edificata nel 978 da Pietro I Orseolo. La basilica attuale risale a un'altra ricostruzione (incominciata dal doge Domenico Contarini nel 1063 e continuata da Domenico Selvo e Vitale Falier) che ricalcò abbastanza fedelmente le dimensioni e l'impianto dell'edificio precedente. In particolare la forma architettonica nel suo complesso si avvicina molto a quella dell'antica Basilica dei Santi Apostoli di Costantinopoli (distrutta pochi anni dopo la conquista ottomana), la seconda chiesa più importante della città e mausoleo imperiale. La nuova consacrazione avvenne nel 1094; la leggenda colloca nello stesso anno il ritrovamento miracoloso in un pilastro della basilica del corpo di San Marco, che era stato nascosto durante i lavori in un luogo poi dimenticato. Nel 1231 un incendio devastò la basilica di San Marco che venne subito restaurata.