Han ble ansatt ved Concerts Lamoureux symfoni der han spilte i tre år. Mens han fremdeles var medlem av orkesteret i Paris, hadde Ponty en ekstrajobb med å spille klarinett (som faren også hadde lært ham) for et collegejazzband som regelmessig opptrådte på lokale fester. Det viste seg å endre livet hans. En økende interesse for Miles Davis og John Coltrane fikk ham til å begynne å spille tenorsaksofon. En kveld etter en orkesterkonsert, og fortsatt iført smoking, fant Ponty seg på en lokal klubb med bare fiolinen sin. I løpet av fire år ble han allment akseptert som den ledende figuren innen «jazz fiddle».