Etter første verdenskrig og gikk det atter nedover med Marineholmen, og sågar forsvaret som helhet. Få nye fartøyer ble bygget, og ikke før 1933 fikk man nye planer for utvidelser og nyanskaffelser. Fra Marineholmen ble Bergen sjøforsvarsdistrikt ledet, og det var her kontreadmiral Carsten Tank-Nielsen ledet forsvaret av 2. sjøforsvarsdistrikt (som strakte seg fra Jærens rev til Nordland fylke) under invasjonen 9. april 1940. Dagen før hadde han, dels på eget initiativ, plassert ut de fartøyer han maktet å få mobilisert og istandsatt. Materiellet var gammelt og upålitelig, men likevel var de fleste fartøyene på post da tyske krigsskip stevnet inn Korsfjorden. Da tyske tropper inntok Bergen i morgentimene 9. april, flyttet han sitt hovedkvarter fra Marineholmen. Tyskerne brukte Marineholmen til både ubåtverksted og administrasjonsboliger, og sammen med de sivile verkstedene og ubåtbunkeren på Laksevåg utgjorde dette den tyske marinens base i Bergen.