荫东考入中国国民党步兵学校。1944年，中国国民党发动第三次反共高潮，蒋介石为瓦解经中共政治改造的国民革命军陆军第三十八军，调该军军长赵寿山到胡宗南第三集团军任总司令。经毛泽东同意，中共三十八军工委派杨荫东任赵寿山的随从参谋，到甘肃武威就任，在赵寿山和孙蔚如（第一战区副司令长官兼第四集团军总司令，不久改任第六战区司令长官）身边从事中共地下工作。其间，杨荫东在重庆陆军大学“甲级将官班”连续学习两期，习得大兵团作战知识，并且结识一批中国国民党高级将领。1946年1月，为应对全面内战，原中共三十八军工委书记蒙