相张镒出为凤翔陇右节度使，署皋为营田判官，并任殿中侍御史，权知陇州行营留后事。泾原兵变时助朝廷平叛有功，授御史大夫、陇州刺史，置奉义军，拜节度使。唐德宗自梁州还，召为左金吾卫将军，不久升迁为大将军。贞元元年（785年），出为剑南西川节度使，曾遣使通好南诏，屡败吐蕃军。贞元十七年（801年），吐蕃攻灵、朔，陷麟州。德宗令皋出兵深入蕃界以牵制之。皋乃自八月诸军齐入，破蕃兵十六万，拔城夺寨，遂进攻维州。蕃军连败，于是攻灵、朔之众引而南下，赞普遣论莽热以内大相兼东境五道节度兵马都群牧大使，率众十万而来解维州之围