Greeley ble født inn i en fattig familie i New Hampshire hvor faren var av engelsk herkomst og moren stammet fra skotter i Ulsters. Navnet Horace fikk han etter en eldre bror som hadde dødd som barn. Faren flyktet i 1821 fra sine kreditorer i New Hampshire til Vermont og familien flyttet med ham. Horace fortsatte sin skolegang i West Haven og konverterte til kristen universalisme Etter skolen ble han lærling i et trykkeri.