Etter et kort opphold ble han rusfri og traff en bekjent, Antonio Carlos Jobim (Tom Jobim), som arbeidet som komponist og musiker hos plateselskapet Odeon. Jobim utgav i 1958 en singel med sin egen «Chega de Saudade» («No more blues») sunget av Gilberto, og Gilbertos «Bim-Bom» var på b-siden. Singelen var ingen hit, men ble gradvis mer populær, og stilen ble kalt en «ny hump» – «bossa nova». Året efter giftet han seg med Astrud Gilberto.