એક કથા અનુસાર કાળીચૌદશના દિવસે શ્રીકૃષ્ણ ભગવાને વ્રજવાસીઓને કુદરતી આફતથી બચાવવા માટે પોતાની ટચલી આંગળી ઉપર ગોવર્ધન પર્વત ઊંચક્યો હતો, તેથી વ્રજવાસીઓ દિવાળીના દિવસે માટી અને ગાયના છાણનો ગોવર્ધન પર્વત બનાવી તેની પૂજા કરે છે, સાથે સાથે આજના દિવસે તેઓ ગાય, બળદને સારી રીતે શણગારે છે અને તેની પૂજા કરે છે.