Baily nació en Newbury, (Berkshire) en 1774, hijo de Richard Baily.