Byen har en lang historie. Den gunstige havnen Tomonoura sør for byen har vært viktig for Fukuyamas utvikling. Mori-klanen, som i middelalderen ble herskerne i Chūgokuregionen, satte havnen høyt og bygde Tomo-slottet der i perioden 1333-1573. Senere ble Mizuno Katsunari føydalherre i lenet, og gav det navnet «Fukuyama». Han fikk bygd slottet Fukuyama (også kalt Hisamatsu), samt drenert og dyrket jorda i Ashida-deltaet. Dette begynte i 1619, og regnes som årstallet Fukuyama ble grunnlagt.