寺伝によれば、天平5年（733年、一部文書には天平8年-736年）、僧・善光（または禅光）が浜辺に打ち上げられた流木を以て十一面観音像を彫り、現在の南区粕畠町にその像を祀る天林山小松寺を建立したのが始まりであるという。
根据寺传，在天平5年（733年，一部分文献则是天平8年、736年），僧人善光（或禅光）将被打上岸边的漂流木雕刻成十一面观音，并在现在名古屋南区粕畠町一地祭祀，而建立了天林山小松寺为其开始。