员的李仲刚将其创办的东文书院迁至此处，东文书院以教授日文为主，1945年8月日本投降后解散，总兵衙门改为私立抗建中学校舍，后改名为私立崂山中学。1949年解放军接管青岛后，崂山中学并入青岛二中，总兵衙门改为青岛二中分院。1958年，中共青岛市委决定兴建人民会堂并选址于总兵衙门，自1959年5月人民会堂开工始，至约1960年，总兵衙门各部分建筑被陆续拆除。总兵衙门现无任何遗迹可寻，部分资料称现人民会堂附近的几棵银杏树传说为章高元驻防时期所种植。
建筑特色.总兵衙门位于今太平路大学