Ihlen tok artium i 1872 og forberedende prøve i 1873 ved Kristiania universitet, før han utdannet seg til ingeniør ved teknisk høyskole i Zürich 1873–77. Etter et års arbeid ved statens jernbaneanlegg begynte han som bestyrer av Strømmens Værksted i 1878. I 1883 overtok han som bedriftseier.