Han arbeidet deretter som advokat ved et privat advokatfirma, og ble så dommer i Brooklyn. I 1939 ble han valgt til distriktsadvokat for Kings County (Brooklyn). Som vant han nasjonal berømmelser da han slo i stykker forbrytersyndikatet Murder, Inc., som hadde ansvaret for hundrevis av mord.