Yukawa pensjonerte seg fra universitet i Kyoto i 1970. I sine siste år i offentligheten satt han som oftest i rullestol. Han døde i hjemmet sitt i Sakyo-ku i Kyoto 8. september 1981 på grunn av lungebetennelse og hjerteproblemer da han var 74 år gammel. Han er begravd i Higashiyama-ku i Kyoto.