909年（明治42年）门司－鹿儿岛全线通车时肥萨线是鹿儿岛本线的一部分，在1927年（昭和2年）八代－鹿儿岛间经海岸的新线通车后肥萨线才分离出来。路线名的由来是其连接的区域是古代肥后国与萨摩国，取首字称为肥萨线。1932年（昭和7年）隼人－鹿儿岛间编入日丰本线后，肥萨线剩余的区间八代－隼人已不在旧萨摩国的范围，“肥萨线”一名事实上已经失去原有意义。虽然是地方交通线，但是1974年至1980年博多－宫崎间开行的特急「大淀」（）、1959年至2000年熊本－宫崎间开行的急行「虾野」（）（当初是准急列车）皆经