7年成为联合太平洋铁路公司的董事时已将近50岁。从1898年5月开始，他担任执行委员会主席直到他去世，他的话在联邦太平洋系统就是金科玉律。 1903年，他担任公司总裁。从1901年到1909年，哈里曼同时担任南太平洋铁路的总裁。哈里曼于是兴起了统一联合太平洋铁路和南太平洋铁路的愿景。（UP和SP在1996年9月11日，地面运输委员会批准后一个月合併。）1905年，哈里曼曾试图收买南满铁路和东省铁路，但均未能成事。在他去世时，哈里曼掌控了联合太平洋铁路，南太平洋铁路，圣约瑟夫和格兰德岛铁路，伊利诺中央铁路