El nombre de este departamento es de origen indígena "Ullumpa", que traducido al castellano significa ""cabeza de falo"".