1927年5月，杨部配合武汉北伐军攻入洛阳，打败奉系张学良部下万福麟部。此后，杨之国民革命军第十军在河南商丘一带与直鲁联军作战，杨见政局大变，遂于是年秋率第十军退出战场，至皖北太和休整。杨于此时申请加入中国共产党，希望“能做第二个贺龙”，将部队改编为中国工农红军。。但中共河南省委未予批准。不久中共地下党在第十军中醖酿暴动，杨坚持反对，只好于1928年2月与谢葆贞及秘书米暂沉到南京、上海、普陀山一带游览。临行前，他对参谋长说：「这些朋友都是我们请来的，纵一时不能合作，也要对得起朋友，要有道义，要留有他日见面的