Rotstein befinner seg øst for byen Löbau og er omgitt av kommunene og distriktene Bischdorf, Dolgowitz, Sohland am Rotstein, Zoblitz og Rosenhain. Nord for fjellmassivet går Bundesstraße 6 og banestrekningen Dresden–Görlitz mellom Löbau og Reichenbach. Langs fjellkammen går den tidligere grensen mellom Niederschlesischer Oberlausitzkreis og Landkreis Löbau-Zittau.