002年2月1日，获总统陈水扁邀请入阁，出任国防部副部长。在监委任内，康宁祥两度出国考察军购。第一次前往美国，拜会卡特政府时代的国防部长、时任CSIS董事长布朗，前往德州参观生产F-16的洛克希德公司，并前往洛杉矶长堤美军港口，参观由国军接收的诺克斯级巡防舰。1993年12月底，康宁祥在监院国防及情报委员会召集人任内，针对尹清枫命案提案派由陈孟铃委员调查。陈孟铃于1994年10月提出调查报告，弹劾前海总武获室主任姚能君、李崑材和前海总后勤署长郑家财三人。并指出尹案调查的困境：尹清枫生前人际关系亟待调