Klubben ble stiftet i 1878 under navnet Clackmannan County Football Club. Året etter skiftet de navn til Alloa Association Football Club, og i 1883 til Alloa Athletic Football Club. Klubben tok i bruk Recreation Park som sin hjemmebane i 1895, og spilte i flere ligaer før de i 1921 ble valgt inn i Division 2 i Scottish Football League. Klubben markerte seg umiddelbart, og vant divisjonen i sin første sesong. De rykket imidlertid ned igjen etter bare én sesong i Division 1.