Przez większość I wojny światowej okręt pozostawał w swoim porcie macierzystym w Puli, w obecnej Chorwacji, poza czterema zadaniami. W 1914 r. pancernik był częścią austro-węgierskiej flotylli, która została wysłana w celu eskorty dwóch niemieckich okrętów, SMS „Breslau” i SMS „Goeben”, ucieczki z brytyjskiego terytorium Morza Śródziemnego. Okręt dopłynął na wysokość Brindisi zanim został odwołany do swojego portu. W maju 1915 r. okręt brał udział w ostrzale włoskiego miasta portowego Ankona. „Erzherzog Karl” wziął również udział w stłumieniu buntu członków załóg kilku krążowników pancernych stacjonujących w Kotorze w dniach 1-3 lutego. Okręt brał też udział w próbie przełamania blokady cieśniny Otranto w czerwcu tego samego roku, lecz musiał się wycofać, kiedy drednot „Szent István” został zatopiony. Po wojnie „Erzherzog Karl” został przekazany Francji jako pryz, ale osiadł na mieliźnie w Bizercie. Został zezłomowany we Włoszech w 1921 roku.