北伐战争期间，国民革命军正在进攻上海，上海市面一片混乱，不少由外国人建立的建筑物开放避难。海青大楼也不例外，大楼里的体育馆放置了大量临时床铺，让女性逃难民众借宿，男士则入住上层的宿舍房间。由于民众涌至避难，海青大楼里的餐厅生意繁忙。1937年，日本开始全面侵华，美军军舰停泊上海港的次数日益减少，到访海青大楼的水兵数量也随之下降，导致大楼逐渐冷清起来。1941年，由于太平洋战争爆发，日本占领由美国人兴建的海青大楼。海青大楼在日本战败后回复往日的热闹。不过，在国共冲突不断的形势下，海青大楼又演变为军人宿舍，