Bitterbergknapp vokser på tørre, solvarme skrenter, stabile sanddyner, torvtak, mur, steingjerder og bergknauser, særskilt vanlig på svaberg, over store deler av Europa. Den fins også i Vest-Asia og nordvest i Afrika. I Norge er bitterbergknapp vanlig i lavlandet i nesten hele Norge, men kun spredte lokaliteter på kysten av Finnmark og i fjellområdene i Norge. Den har også blitt introdusert på østkysten av Nord-Amerika.