Поселення на території міста Кокубундзі виникло в 8 столітті. Його центром був однойменний буддистський монастир, заснований близько 758 року. Протягом періоду Едо (1603—1867) довкола поселення виникли нові села Кокура, Хонда, Найто та інші. 1889 року вони були об'єднані у одне село Кокубундзі. Після прокладання залізниці «Кофу-Мусасі» та Великого кантоського землетрусу 1923 року село стало активно заселятися вихідцями з регіонів та столиці. 1940 року воно отримало статус містечка, а за 24 роки — статус міста. 1973 року в Кокубундзі вікрилася однойменна залізнична станція, околиці якої перетворилися на комерційний центр міста.