为青岛站设计过一个方案，但董事会认为其体量太大且过于昂贵而驳回了该方案。公司最终采纳了山东铁路公司经理锡乐巴（）的设计方案，并于1900年1月开始建设，1901年春完成。德国当局曾计划在站房北侧、今泰安路放射状路口西侧根据“华洋分治”政策建设一座华人专用车站，还计划在大港一带建造一座规模更大的客货两用车站，因一战爆发、日军攻占青岛而搁浅。1991年2月15日，青岛站候车楼改建工程开工，同年8月原楼拆除，在原址改造重建。在原站址北侧新修建了大型二层候车大楼，另在原站址南约100米处重新依原来风格建造了