Thibaud is in Bordeaux gebore. Hy het die viool onder sy vader se leiding bestudeer, voordat hy op die ouderdom van dertien ingeskryf is by die Paryse Konservatorium. In 1896 het hy saam met Pierre Monteux (wat later 'n bekende dirigent geword het) die konservatorium se prys vir vioolspel gewen. Hy moes egter weer sy tegniek opskerp en herbou nadat hy 'n besering opgedoen het tydens die Eerste Wêreldoorlog.
Thibaud was nie slegs bekend om sy werk as solis nie, maar ook vir sy uitvoerings van kamermusiek, en in besonder die klaviertrio saam met die pianis Alfred Cortot en die tjellis Pablo Casals. Hy het konserttoere onderneem saam met die pianis Yves Nat en George Enescu.