De eldste bergartene finnes i Mittelgebirge. Her finnes for eksempel i Schwarzwald metamorfe bergarter fra jordas urtid. I Rheinland-Pfalz finnes skiferbergarter fra silur og devon. Nord for disse finnes formasjoner fra karbon med blant annet lag av steinkull som har gitt opphav til tungindustrien i Ruhr-området.