Mishima ble født i Tokyos distrikt Yotsuya, i dag en del av Shinjuku. Hans far var Azusa Hiraoka, statsansatt, og hans mor Shizue var datter av Kenzō Hashi, rektor ved Kaiseiakademiet, en videregående skole. Bestefaren var også forsker på kinesisk klassisk litteratur. Hashifamilien hadde tjenestegjort for Maedaklanen i generasjoner i Kagaområdet. Mishimas besteforeldre på farssiden var Sadatarō Hiraoka og Natsuko Hiraoka. Han hadde en yngre søster Mitsuko som døde i 1945 av tyfus, 17 år gammel, og en yngre bror, Chiyuki.