De største byene ved sjøen er Mustvee og Kallaste vest på estisk side av Den store sjø, og Gdov i sør, på russisk side. Den sistnevnte ligger imidlertid ikke helt nede ved sjøen, men ved elva Gdovka to kilometer før dens utløp i innsjøen. Like sør for Mustvee ligger landsbyen Tiheda, som er Europas lengste rekkelandsby. Den strekker seg 7 km langs en hovedvei helt nede langs sjøen – mellom Mustvee og Kasepää. Tiheda ble grunnlagt av russiske Gamle troende, på flukt fra tsarens forfølgelse av denne arkaisk-ortodokse sekten, på slutten av 1600-tallet.