Nació en Salzburgo, Austria, hijo ilegítimo de Anna Schoiberin y el soldado Franz Mohr, quien abandonó a la madre de Joseph al mismo tiempo de desertar, aún antes del nacimiento de su hijo.