司法部长期间，朱利安尼监督所有美国司法部的联邦执法单位，包括了司法部监狱局、司法部缉毒组及美国法警部门。朱利安尼在1983年被指派为纽约市南区的联邦检察官，开始成为全国知名的人物，他起诉了许多高知名度的犯罪集团首脑，包括了成功起诉了涉嫌在华尔街进行内线交易的依凡·波斯基（Ivan Boesky）和麦可·梅肯（Michael Milken）。他也致力于追捕许多毒品交易和对抗犯罪集团，打击政府内部的贪污腐败并起诉许多白领阶级的犯罪份子。于任内总共定罪了高达4,152人，其中只有25人的定罪在事后翻案。S