Dunn ble presteviet den 30. mai 1896. Han ble da utnevnt til kapellan i St. John the Evangelist’s Church, og der var han til 1921. I 1904 ble han bispedømmedirektør for , et verv han hadde til sin død. I løpet av sine første 17 år som direktør samlet han inn over 2 millioner dollar til de katolske ytremisjoner. Han var også kansler for erkebispedømmet New York fra 1914 til 1921.