Otis ble født i Pelham i Massachusetts. Det var i Massachusetts han bygde sin første maskin i 1835 til byggingen av jernbanelinjen mellom Norwich og Worcester. Maskinen utførte gravearbeid som til da hadde blitt gjort for hånd med bøtter og spader. Maskinen gjorde arbeidet på en liknende måte som ved kroppsarbeid, med en bøtte som gravde ut jord og deretter roterte 90 grader og tømte innholdet et passende sted, for eksempel en vogn. Selve bøttene ble løftet ved hjelp av dampkraft, men den skinnegåande maskinen måtte dras fremover av hester og utliggeren måtte svinges ved hjelp av menn med tau.