蒋介石心腹军人.1926年（民国15年）5月，杨杰任程潜率领的国民革命军第六军总参议，参加北伐，后来任第6军第17师师长。翌年，他升任第6军副军长。同年第6军攻南京，他转任总司令部淮南行营主任兼总预备队指挥官。南京事件后程潜失势，8月第6军改组为第18军，杨杰任该军军长。北伐成功后的1928年（民国17年）3月，他被提升为军事委员会常务委员兼办公庁主任，翌月他升任第1集团军总司令部总参谋长。此后，杨杰成爲蒋介石直属的心腹。10月，他任北平宪兵学校校长。