今属湖州安吉县）。青年时代曾追随斧头帮王亚樵。1920年入读南京高等师范学校（后改为国立东南大学、中央大学、南京大学）暑期学校，结识张其昀、缪凤林。1924年6月进黄埔军官学校第一期，曾因身高未达1.6米未被录取，经军校党代表廖仲恺特许被录取，1925年毕业，被分配在军校教导第1团第3营第8连任少尉见习；其后胡曾参加北伐，任国民革命军第一军第一师第二团团长。
中年.1932年，胡宗南参与组织力行社和复兴社，居“十三太保”之首，以黄埔系“太子”自诩。1935年7月，胡宗南率军坚守松潘