，仅任职49天就被袁世凯的亲信张广建取代，后者出任中华民国山东都督。此后，胡建枢携儿子离开济南赴青岛居住。刚到青岛时，胡建枢住在三江会馆，其间曾为三江子弟捐款办小学堂。后来他在黄岛路设公馆，参与社会活动，并同清朝遗臣交往密切。1913年2月，任职于德华大学的清朝遗老蒋楷病故，胡建枢参加了其丧礼，并赠挽联：“平原作令千秋事，琴岛传经一片心。”隆裕太后去世时，他同清朝遗老共同悼念，他当时“头戴摘缨乌帽，反穿羊皮外褂，足登青布官靴，面对太后神位跪倒，匍匐在地，放声大哭，起行三拜九叩礼。”