Mathis grabó su primer álbum, llamado Johnny Mathis: "A New Sound In Popular Song" (Un Nuevo Sonido en la Canción Popular), un álbum de jazz que tuvo ventas muy bajas.