Joosef Ferdinand oli Toscanan suurherttua Ferdinand IV:n poika. Ennen maailmansodan syttymistä hän oli Itävalta-Unkarin armeijan sotamarsalkkaluutnantti ja toimi kolmannen jalkaväkidivisioonan komentajana Linzissä. Sodan alussa hän palveli kenraali Brudermanin komentamassa kolmannessa armeijassa, kunnes hänet 30. syyskuuta 1914 nimitettiin neljännen armeijan komentajaksi jalkaväenkenraaliksi ylennettynä. Joosef Ferdinandin joukot osallistuivat puolustustaisteluihin Galitsiassa ja sittemmin Volyniassa, mutta niiden menestys oli heikkoa. Syyskuussa 1915 suoritettu suuri hyökkäysoperaatio epäonnistui surkeasti. Venäläisten 4. kesäkuuta 1916 käynnistämä niin sanottu Brusilovin hyökkäys murskasi kokonaan kaksi Joosef Ferdinandin komentamista armeijakunnista Lutskissa ja operaation kahden ensimmäisen päivän aikana hän menetti 130 000 miestä kuolleina tai vangeiksi antautuneina. Hieman aiemmin kenraalieverstiksi ylennetyn arkkiherttuan komentajanura päättyi käytännössä tähän, sillä Itävalta-Unkarin liittolainen Saksa vaati hänen hyllyttämistään sotilaallisen katastrofin vuoksi. Hän toimi kuitenkin vielä 1917–1918 ilmavoimien johdossa.