રાજ મહેલ ની સમીપ સ્થિત ચતુર્ભુજ મંદિર ઓરછાનું મુખ્ય આકર્ષણ છે. આ મંદિર ચાર ભૂજાધારી ભગવાન વિષ્ણુને સમર્પિત છે. આમંદિરનું નિર્માણ ઇસવીસન ૧૫૫૮થી ૧૫૭૩ની વચ્ચે રાજા મધુકરે કરાવ્યું હતું. પોતાના સમયની આ એક ઉત્કૃષ્ટ રચના યુર્પીય કેથેડ્રલ સમાન છે. મંદિરમાં પ્રાર્થના માટે વિસ્તૃત હોલ છે