Comstock wurde als Sohn des Schullehrers Ebenezer Comstock und Susan Allen aus der Familie des Unabhängigkeitskämpfers Ethan Allen im Jahre 1849 auf deren Farm in Janesville geboren. Kurz nach John Henrys Geburt verstarb sein Vater während der Zeit des Goldrauschs an Cholera, ohne dass es ihm gelungen war, der Armut zu entkommen. Als infolgedessen die Hypothek für die Farm nicht mehr bedient werden konnte, zog Comstock mit seiner Mutter nach New York, wo diese als Krankenschwester tätig wurde. Nachdem dort auch die Mutter krank wurde, wuchs Comstock bis zu seinem elften Lebensjahr bei befreundeten Familien auf. Dann bot ihm Captain Lewis Turner an, auf seinem Schoner zu arbeiten und dafür Kost, Logis, Kleidung und drei Monate im Jahr Schulbildung zu erhalten. Turners Frau Rebecca kümmerte sich um Comstock wie um ihren eigenen Sohn, so dass Turners Familie für die nächsten fünf Jahre de facto zu Comstocks Elternhaus wurde. Da er für die meisten Seemannsaufgaben zu schwach war, wurde er von Rebecca Turner zum Koch ausgebildet. In seiner Freizeit auf dem Schiff lernte er auch viel für die Schulbesuche im Winter, indem er diverse Bücher las. Seine Faszination für die Entomologie weckte das Buch "A Treatise on Some of the Insects Injurious to Vegetation" von Thaddeus William Harris (1795–1856). Sein Exemplar steht heute in der "Comstock Memorial" Abteilung der Library of Cornell University und trägt folgende Widmung: