Po ukończeniu, na początku 1914 roku A-4 w towarzystwie bliźniaczych A-2 i A-3 odbył rejs z Kilonii do Norwegii, dopływając do bazy w Horten. W tym roku jednostka została przyjęta do służby w marynarce wojennej. W chwili rozpoczęcia II wojny światowej okręt był już przestarzały. W momencie inwazji Niemiec na Norwegię A-4 wraz z bliźniaczymi jednostkami A-2 i A-3 wchodził w skład 1. dywizjonu okrętów podwodnych z bazą w Horten. Jednostka została w nocy z 15 na 16 kwietnia 1940 roku samozatopiona nieopodal Tønsberg w Oslofjorden.