Als der Bürgerkrieg begann, stellte Terry ein Regiment von Freiwilligen aus Connecticut auf und führte es in den Krieg. Ihm wurde der Rang eines Obersten verliehen. Das Regiment kämpfte in der ersten Schlacht von Bull Run, nach der Terry mit seinem Regiment nach South Carolina verlegt wurde. Er wurde am 26. April 1862 zum Brigadegeneral der Freiwilligen befördert und ihm wurde die Morris Island Division des X. Korps unterstellt. 1863 nahm Terry an der Belagerung von Charleston und Morris Island teil. Seine Truppen führten weiterhin ein Feuergefecht bei Grimball’s Landing und eroberten im September 1863 Fort Wagner. Im folgenden Jahr wurde das gesamte X. Korps nach Norden verlegt, wo es unter Benjamin Franklin Butler in der James-Armee in Virginia diente.