Byen er bygd på en klippe på den bratte venstre bredden av elven Dyje, og byen er preget av middelalderarkitektur. Den gotiske St. Nikolas-kirken og det sengotiske rådhuset er de mest kjente landemerker i byen. St. Nikolas-kirken ble bygget i 1348 på ordre av keiser Karl IV, og rådhuset med det 75 meter høye tårnet ble bygget i 1446. Overfor elven Dyje ligger Znojmo-borgen, som ble bygget i 1000-tallet av Přemyslid-hertugene.