东南各地的水陆码头，一些过往的阿拉伯使节和商人寄寓或留宿于此，为当今管城回族最早的来源。安史之乱中，在唐军收复洛阳后，唐兵马副帅仆固怀恩率军乘胜追击至郑州。其军队主要为回纥、南蛮或大食人，叛乱平息后便驻扎在黄河两岸，亦为管城回族的来源之一。元朝时，郑州为合丹的食禄之邑，一批回族降民被带入郑州。至元十八年，金和南宋灭亡后，以回族军人为主体的“探马赤军”镇守中原地区，在开封、郑州一带屯田。除回族军人外，还有一批回族贵族、商人等，以户为单位，逐渐在郑州一带定居下来。明清时期，郑州城内已形成回族聚居区，并建立清真寺