Röchling, sønn av en medisiner gikk etter gymnaset i lære i jernverket Kacher & Westermann i Metz. Han arbeidet i Rotterdam og Le Havre og gikk deretter inn som deltaker i kull- og bankforretningen C. Schmidtborn, senere Gebr. Röchling (brødrene Röchling) i Saarbrücken. Midt på 1850-tallet grunnla Röchling sammen med firma Hardy masovnanlegget i Pont-à-Mousson, grunnla 1852 koksovnanlegget i Altenwald og i 1860 gassverket i Saargmünd. 1881 kjøpte han Völklinger Hütte. I 1883 kunne den første masovnen tas i bruk og 1886 begynte utvinningen av koks. I 1890 bygde Röchling stålverket Thomas-Stahlwerk og i 1898 jernverket Karlshütte i Diedenhofen.