Затем Харрис служил как на суше в Бостоне так и в море, сначала на борту фрегата "USS Java" затем на "Delaware" и "Philadelphia". 13 июня 1830 года он получил постоянное звание капитана и отправился служить в Норфолк, штат Виргиния. После этого он снова служил на борту "Delaware" но в марте 1836 года был отстранён от службы. Через три месяца он присоединился к отряду филадельфийских морских пехотинцев в Форт-Монро, штат Виргиния для службы в составе армии в ходе войн с индейцами во Флориде.