同时，他联系唐才常、毕永年，发动鄂军中下层军官及士兵加入唐才常的组织，成立自立军。1900年初，张通典、容闳、严复等人在上海张园参加唐才常主持的国会，决定8月9日在湖南、湖北、安徽等处共同起义。自立军起义失败后，唐才常被处决，张通典逃往上海，入两江总督刘坤一幕。1902年，刘坤一在任上病逝，周馥继任，任命张通典为两江学务处参议，兼编纂《学务杂志》。张通典排除困难，创办了养正学校、养正女学、湖南旅宁公学。
参加同盟会.中国同盟会成立后，张通典当即加入，并且奉孙文手令主持江南江北党务，