Al igual que la mayoría de los distritos ugandeses, debe su nombre a su ciudad capital, la ciudad de Kiruhura.