Joseph Oman besuchte bis 1886 die United States Naval Academy in Annapolis (Maryland) und diente danach zwischen 1886 und 1921 in der US Navy, in der er bis zum Konteradmiral aufstieg. Er nahm am Spanisch-Amerikanischen Krieg von 1898, am Philippinisch-Amerikanischen Krieg und am Ersten Weltkrieg teil. Während dieses Krieges transportierte er mit einem deutschen Beuteschiff bis zum Kriegsende etwa 120.000 amerikanische Soldaten an die Front nach Frankreich. Dafür erhielt er das Navy Cross und seine Beförderung zum Konteradmiral.