La diócesis fue erigida el 18 de junio de 1988 con la bula "Qui peculiari" del papa Juan Pablo II, con territorio desmembrado de la Arquidiócesis de Medellín y las diócesis de Barrancabermeja y Sonsón-Rionegro.