Abelin startet sin offiserskarriere som underløytnant i Närkes regemente i 1839, og var blitt generalmajor i 1867 da han tiltrådte som krigsminister og sjef for det svenske landforsvarsdepartementet. Han var statsråd frem til han søkte avskjed i 1871, men satt også videre som medlem av Sveriges riksdag fra 1871 til 1898. Sentralt i hans arbeid som krigsminister sto spørsmålet om reorganisering og endring av hærordningen i Sverige, men Abelin nådde kun delvis frem med sine forslag i Riksdagen, noe som foranlediget hans avskjedsbegjæring fra statsrådet. Etter statsrådsperioden gikk han tilbake i militære offisersstillinger, herunder som generalløytnant og fra 1872 til 1887 som sjef for andre militærdistrikt.