Berger begynte sin karriere i nasjonale løp i Belgia, Hans første bil var en Jicey med BMW-motor, som han konkurrerte med i mange Formel 2-løp mellom 1948 og 1952, og kom på tredjeplass i Grand Prix des Frontières ved Chimay. I 1953 kjørte han for Simca-Gordini-teamet og klarte en femteplass på samme bane, samt en tredjeplass i et Grand Prix-løp utenom mesterskapet på Rouen-Les-Essarts. Han meldte seg på Belgias Grand Prix 1953 med samme bil, men måtte bryte etter bare tre runder med motorproblemer. Neste år kjørte han en Gordini i Frankrikes Grand Prix 1954, men måtte da bryte etter ni runder, igjen med motorproblemer.