生于东京府东京市市兵卫町（现今东京都港区六本木），是地质学家和妻子小雪所生的的第三位男孩。1908年，在诞生一年两个月后，伴随着父亲琢治就任京都帝国大学的教授，一家人搬迁往京都府京都市居住。此后，从一岁到大学时期都在京都度过，虽然大学毕业后有到大坂和西宫住过的经历，但是他人生中的大部分时间都待在京都。汤川在自传中也表示，他的记忆是从搬家至京都后才开始。母亲家的祖父小川驹橘是前纪州藩的武士，因此汤川家里介绍祖先是「和歌山出身」，此外由于也与企业家松下幸之助出身同地，祖籍地有「松下幸之助诞生地」的石碑，