在日本成立中华革命党。1917年至1921年随孙中山在广东活动，先后任交通部部长、总参议等职。1924年1月，中国国民党第一次全国代表大会在广州召开，胡被孙中山任命为五人大会主席团之一，并获选中央执行委员，兼任黄埔军校政治教官。这次大会确定了孙中山联俄容共的政策，但遭到胡汉民反对，孙胡产生隔阂，胡汉民一度被外派至上海，后来蒋中正出面调停，孙胡关系缓和。同年9月，孙中山离广州到韶关建立北伐大本营，任胡代行大元帅留守广州。自1905年孙中山成立中国同盟会后，到1925年孙去世，在孙领导下，胡汉民重在内部