Simons skyllde byggkostnader och arkeologikrav på sitt beslut att be West Dorset District Council att hitta alternativa utvecklare.
West Dorset District Council hade kommit överens om finansiering av upp till 4 miljoner pund för systemet som omfattar Marks & Spencer och Waitrose butiker.
Rådet sa att det var "uppsagt" av beslutet.
Företaget hänvisade till kraven i English Heritage, inklusive att genomföra en fullständig arkeologisk undersökning, som gör projektet ekonomiskt ogenomförbart.
I ett brev till rådet sade Simons verkställande direktör Tom Robinson att den andra fasen av projektet hade varit "marginal i ett antal år".
En online petition som skapats av invånarnas grupp Försvara vårt rika kulturarv stöd kräver arkeologiska undersökningar av platsen, som ligger inom murarna i den gamla romerska staden, har fått nästan 4.000 underskrifter.
Anthony Alford, ledare för West Dorset District Council, sade: " Vi är fortfarande ambitiösa för denna centrala stadskärna.
"Vår vision är att hålla Dorchester en blomstrande shopping destination och hålla återförsäljare i vår länsstad."
Nya rådshus, ett bibliotek och ett vuxenutbildningscentrum har redan byggts på Charles Street i den första fasen av dess förnyelse.
Utvecklaren av ett nytt handelsområde i Dorchesters centrum har dragit sig ur systemet.