昌起义后，曾与乡人李元甫、王传柱等在庐州举事响应，后失败，亡命上海，在上海组织安徽人士成立同乡会，并以此为基础踏入江湖，1921年创建斧头帮，与黄金荣、杜月笙等互争地盘。被称斧头帮是因为旧时代港口船上麻绳运用多，水手人人带小斧头便于砍绳。在江苏军阀齐燮元与浙江军阀卢永祥的斗争中，王亚樵支持卢永祥，并于1923年11月12日组织手下刺杀了齐燮元任命的淞沪上海警察厅厅长徐国梁，这为民国时轰动一时的刺杀案件，成为甲子兵灾的导火索之一。之后王亚樵接受卢永祥的任命赴湖州任浙江纵队司令，其门生有后来的军统头目戴