到上海，上海钢铁厂随即被桂系白崇禧控制。胡庶华不愿依附桂系新军阀当政客，乃于1927年8月离开该厂。胡庶华自上海回湖南时，途经汉口遇到唐生智。唐生智亟需恢复兵工产业，乃以同乡身份挽留胡庶华任汉阳兵工厂厂长兼筹备汉阳铁厂。上任不到3个月，唐生智遭桂系李宗仁的“西征军”击败，不愿依附桂系新军阀的胡庶华离职。1928年3月，蒋介石派国民政府军事委员会委员陈仪出国考察军事工业，陈仪邀胡庶华同行。他们一行在欧美考察半年后，胡庶华已发现跟着陈仪不可能办好工业。回国后，经同乡易培基保荐，1928年胡庶华出任国民政