Josip absolvoval v roku 1819 vojenskú tereziánsku akadémiu. Potom pôsobil ako vojenský dôstojník rakúskej armády – v rokoch 1825 – 1830 v Haliči, 1831 – 1835 v Taliansku a neskôr v pohraničných plukoch v Chorvátsku. V roku 1841 získal hodnosť plukovníka a v roku 1848 generála. Jelačič bol zástanca pravého krídla chorvátskeho národného hnutia. 23. marca 1848 sa stal bánom, veliteľom všetkých vojsk v Chorvátsku a na vojenskej hranici. V apríli 1848 bol oporou nedôsledného riešenia revolučných premien v poddanskej otázke, potlačil hnutie chorvátskych roľníkov a revolučných demokratov, ktorí žiadali dôslednú likvidáciu poddanských povinností. Narastajúce rozpory medzi Viedňou a Pešťou využíval na riešenie štátoprávneho postavenia Chorvátska a čiastočne aj iných slovanských národov v monarchii. Bol jedným z hlavných predstaviteľov a veliteľov protirevolučnej cisárskej armády, ktorá potlačila októbrové postavenie vo Viedni a bojovala proti maďarskej revolúcii. Po skončení revolúcie sa stal stúpencom politiky bachovho absolutizmu, aj keď sa jeho pôvodné plány na riešenie chorvátskej otázky takmer nerealizovali.