У рат пук је кренуо 7. октобра 1912. Други гвоздени пук је учествовао у свим познатим биткама: у Првом балканском рату у Кумановској, Прилепској и Битољској бици. У Другом балканском рату 1913. године у борбама овог пука са Бугарима погинуло је 50 одсто војника, командант пука Ћира Даскаловић, сви команданти батаљона и сви командири чета. Од овог рата, овај пук почиње да се назива „Гвоздени“. Прославио се у Брегалничкој бици, кад је у најкритичнијем тренутку, 18. јуна 1913. године, пук задобио бесмртну славу чувеним јуришом на коту 650, када је пробијен бугарски фронт и решена битка на Брегалници. У Првом светском рату 1914. године Други гвоздени пук учествовао је у Церској бици, и то у самом њеном центру, на Текеришу. Посебно су забележена дела припадника Гвозденог пука у Колубарској бици. Видећи како му људство гине, други ратни командант пука, пуковник Миливоје Стојановић, лично је повео пук у нови јуриш и том приликом је Кременица освојена а пуковник Стојановић погинуо. У његову част композитор Станислав Бинички је компоновао „Марш на Дрину„. Команду над пуком примио је трећи ратни командант, пуковник Димитрије Милић.