北伐军攻占南京后，蒋中正曾在1928年一度下野，赴日本。陈舜畊也随蒋赴日。蒋要与宋美龄在上海结婚，蒋也委託陈舜畊（当时仍任蒋的机要秘书）护送前妻陈洁如赴美国留学。但蒋宋联姻之后，陈即回避蒋，向蒋申请出国深造。蒋颇不情愿批准。陈作为蒋机要秘书的工作，由留学法国归来的毛庆祥顶替。陈旋即先赴美国留学，入芝加哥大学，后转赴欧洲，先后就读于法国巴黎大学和德国柏林大学。1931年，欧美游学三年之后，陈才归国，先后担任津浦铁路局、胶济铁路局处长。
抗战和国共内战时期.抗日战争时期，由挚友吴嵩