През 1935 г. става военноморски летец, а през 1940 г. е вече вицеадмирал. След японското нападение над Пърл Харбър през декември 1941 г., оперативното съединение на Холси е на практика единствената останала оперативна бойна група в Тихия океан. Докато САЩ възстановяват флота си, той извършва изненадващи набези срещу японски острови – Маршаловите, Гилбъртовите и Уейк. През април 1942 г. групата му маневрира достатъчни близо до Токио, за да могат самолетите на подполковник Джеймс Дулитъл да извършват първата бомбардировка над японската столица. Последователните му успехи водят до назначаването му през октомври 1942 г. за командир на южната тихоокеанската сила. През следващите два месеца той изиграва ключова роля в битката при островите Санта Крус и морската битка при Гуадалканал, поради което впоследствие е повишен на адмирал. От края на 1942 г. до средата на 1944 г. Холси ръководите американската кампания при Соломоновите острови.