Byen ligger på et eid mellom to fjorder, Vágur i nord og den større Borðoyarvík (6,5 km) i sør. Det meste av bebyggelsen ligger ved øst- og vestbredden av Vágur. Byen omgis av fjellene Myrkjanoyrarfjall (689 moh.), Háfjall (648 moh.), Hálgafelli (502 moh.) og Klakkur (413 moh.). Klaksvík har fått sitt navn etter fjellet Klakkur, som på færøysk betyr «bergnabb».