Etter å ha fullført jusstudiene arbeidet hun som advokat for et firma. Etter å ha vært ansatt i to år ble hun misfornøyd med arbeidssituasjonen og sa opp for å være hjemme med sine to barn. En kort stund senere søkte hun på en jobb som påtalemyndighet i familieretten. Sheindlin jobbet hovedsakelig med barnemishandling. I 1976 ble Sheindlin utnevnt som dommer av ordfører Mayor Ed Koch som ble imponert over hennes holdning i rettssakene, hovedsakelig hennes nulltoleranse for sladder og tøys. Hun jobbet først i vanlig strafferett, og fire år senere ble hun forfremmet til hoveddommer i familieretten i Manhattan. I februar 1993 publiserte Los Angeles Times en artikkel om henne på bakgrunn av hennes talent og hennes ønske om å gjøre rettssalen til et sted for rettferdighet og avgjørelser som ville komme flest mennesker til gode. Etter å ha opptrådt på TV-programmet 60 Minutes fikk hun internasjonal anerkjennelse. Dette førte til publikasjonen av hennes første bok som ble utgitt i 1996.