Ott utdannet seg som snekker og begynte i 1928 i lære hos det berømte orgelbyggerfirmaet Steinmeyer i Oettingen. Han begynte tidlig for seg selv og leide seg inn i lokaler hos orgelbyggerfirmaet Giesecke i Göttingen og senere hos Herman Eule i Bautzen. Sitt første orgelpositiv som selvstendig orgelbygger bygget han i 1930. Ott vakte oppsikt ved å bygge etter prinsippene til det førromantiske orgelbygg, som ved bruk av sløyfelader og mekanisk traktur. Dette skaffet ham en rekke oppdrag på mindre orgler, noe som gjorde det mulig for ham å etablere eget firma i Göttingen i 1932.