为替清和天皇祈求病癒有成，而被赐予了「胜王寺」的寺号，有「替王带来胜利」的意思，诚惶诚恐地选择使用有相同读音的胜尾寺替代。在《日本三代实录》中，元庆4年清和天皇去世的记录中，纪载了天皇曾朝圣「胜尾山」的事情，这是胜尾寺初次出现在文献上。元历元年（1184年），在源平合战中因一之谷之战烧毁。在文治4年（1188年），在源赖朝命令之下，由熊谷直实、梶原景时重建。承元4年（1210年），从赞岐国流放归来的老年法然住在该寺。2013年举行了Red Bull Holy Ride（登山车下坡对抗赛）