由建筑师三上贞设计。为建设该楼，三上贞曾前往日本国内各大城市考察当地医院建筑。由于建筑基址的地质条件较差，建设过程耗资巨大。1922年华盛顿会议期间中日双方于2月4日签订的《解决山东悬案条约》第五条及附约第二条规定包括卫生设施在内的所有市政公产移交给中国政府，但条约第七条规定日本领事馆及日本居留民团所必需的设施由日本人保管。在后续谈判中，日方认为原督署医院建筑群既经日本当局扩建，青岛病院（包括原督署医院设施与青岛病院门诊大楼）应当为日本人所保留。最终在同年12月1日签订的《山东悬案细目协定》第七条中，医院