Murphy ble snart en av dem som assisterte den tidligere pavelige diplomat msgr. Hugh O'Flaherty («the Vatican pimpernel») som skjulte allierte soldater som var rømt fra krigsfangeleirer og (fra høsten 1943) jøder som stod i fare for å bli deportert av nazistene. I den korte periode i 1943 mellom Badogliokuppet og den tyske okkupasjon, hjalp legasjonen mange rømte krigsfanger til å komme seg ut av Italia.