1882年林朝栋返回台湾，1884年中法战争爆发，福建巡抚岑毓英来台湾巡视，并兴建台中府城（今台中市），而林朝栋自备材料人力协助建城，且施工十分有效率，因而被岑毓英推荐给新任巡抚刘铭传。不久法国海军将领孤拔率领远东舰队攻打台湾北部，林朝栋奉台湾兵备道刘璈之命，征召客家义勇军「礼」字营500人部队北上驰援，此即为栋军之始。战争期间，林朝栋率「礼」字营驻守台北山区，在第一次月眉山之役与第二次月眉山之役表现杰出，不但多次击退来袭法军，并成功掩护溃败清军撤退至暖暖，防止法军进一步攻势。因此战后全台三十多营乡勇仅