Grazområdet var under det romerske keiserriket et tett befolket landbruksområde. På 500-tallet ble det i det senere Graz opprettet en borg. Navnet Graz kommer også fra det slovenske ordet for borg, – betyr en mindre borg.