客家人。黄埔四期生，陆军大学南京第一期毕业。陈仪任福建省政府主席期间，经福建省保安处黄珍吾推荐，在福建省保安处当参谋长。1944年奉调蒋介石委员长仕从室当参谋。战后受陈仪邀请出任台湾省警备总部参谋长。越南战争时期，曾任驻越军事顾问团长。属军统系。二二八事件发生时，警总参谋长柯远芬以「清乡」行动闻名，并曾留下「宁可枉杀九十九个，只要杀死一个真的就可以」此一名言。
二二八事件中之处理态度与做法.二二八事件中，滥捕滥杀，柯远芬扮演重要角色。在2月28日事件爆发之初以「阴谋论」认定「奸