正式宣布退休，离开长达四十八年的公务生涯。 此后，杨基铨曾担任中华民国软式网球协会、OISCA中华民国总会等民间团体的理事长，也曾出任国泰信託公司以及庆丰商业银行的副董事长等职位，并成立财团法人国际文化基金会。2000年，陈水扁在就任第10任中华民国总统后礼聘杨基铨为总统府国策顾问。2004年4月初，杨基铨在偕同刘秀华前往日本参加台北高校同学会后腹部开始常感不适，后于台大医院检查发现肝脏长有恶性肿瘤，且癌细胞扩散日益严重。2004年6月16日22时17分，杨基铨病逝于台大医院病房。