胡钧中秀才。光绪十八年（1892年）考入两湖书院。1896年奉派赴日本考察教育。归国后，任湖北自强学堂堂长。1901年，湖广总督张之洞署两江总督，胡钧、刘邦俊、田吴熠等随张之洞到南京办新学。1902年，胡钧随张之洞返回湖北，任湖北师范学堂堂长。他还在武昌蛇山后胡公馆内创办私立启秀女子学堂。1902年，胡钧中举人，被张之洞荐为经济特科人材。1903年，湖北学务处成立，胡钧任参议。1904年，胡钧奉派入德国柏林大学法科。 1907年毕业归国，任天津法政学堂监督，并奉派赴日本考察。在日本期间，胡钧参加中国同盟