香港中文大学社工系毕业。1977年，吴克俭担任社联教育委员会秘书，后来成为人力资源管理顾问。1981年，吴克俭完成香港大学社会科学硕士课程。1980年代，吴克俭历任摩托罗拉及飞利浦等出任人力资源管理职位，于1980年代中后期至1990年代初期兼职执教香港理工大学及香港管理专业协会所举办的人事管理学课程。2002年，吴克俭获李国章邀请出任香港教育学院校董会成员。他在教院风波聆讯时担任校董会副主席。2004年，吴克俭获委任为太平绅士。2006年至2009年，吴克俭担任香港考试及评核局委员会委员及人力资源委员会主