Marine Band, yang saat itu dipimpin oleh Sousa, berperan penting dalam perkembangan rekaman musik karena kedekatannya dengan Perusahaan Fonograf Columbia , 1891.