ખ્રિસ્તી ધર્મમાંથી આવતા જોસેફનું કેરળ વતન છે. 1979માં કેરળ હાઈકોર્ટમાં વકીલાથ શરૂ કરી. 2000માં કેરળ હાઈકોર્ટના જજ બન્યા. આ હાઈકોર્ટમાં બે વાર કાર્યકારી ચીફ જસ્ટિસ બન્યા. 2010-13 દરમિયાન હિમાચલ પ્રદેશના ચીફ જસ્ટિસ રહ્યા. 8 માર્ચ, 2013ના રોજ સુપ્રીમ કોર્ટના જજ બન્યા અને આવતા વર્ષે 29 નવેમ્બરે નિવૃત્ત થશે.