办东京青山军事训练班，自己也宣誓入班接受训练，并且一度兼任数学教员。后来，青山军事训练班解散，胡毅生受到刺激。1904年，胡毅生应聘赴横滨华侨学校任教习，并加入当地洪门会社。不久，胡毅生返回东京，在法政大学速成部学习。1905年7月，孙中山赴日本东京筹建中国同盟会，胡毅生与黄兴、宋教仁、冯自由等人分头通知中国留学生及少数日本人士参加中国同盟会筹备大会。大会上，胡毅生宣誓加入中国同盟会，成为第一批会员之一。一个月之后，中国同盟会正式成立，胡毅生担任第一任广东省籍中国同盟会会员的主盟人。Sectio