Grevskapet har navn etter administrasjonsbyen Carlow og er den største bosetningen, med over 40 % av grevskapets befolkning. Mye av resten av befolkningen er også bosatt i Barrowdalen, i byer som Leighlinbridge, Muine Bheag (tidligere Bagenalstown), Graiguenamanagh (tidligere Tinnahinch), Borris og St Mullins. Carlow deler grense med grevskapene Kildare og Laois i nord, Kilkenny i vest, Wicklow i øst og Wexford i sørøst.