En 1902 regresó a Túnez, donde empezó su verdadera actividad política. A partir de entonces Thaalbi quiso enfocarse sobre las reformas sociales que su país necesitaba. Viajó por todo su país impartiendo clases y conferencias sobre la necesidad paraTúnez de alcanzar su libertad política. Por estas razones los franceses (que, en aquella época, administraban Túnez) decidieron meterlo en la cárcel. En 1907 Thaalbi se acerca al movimiento de los Jóvenes Tunecinos, claramente inspirado en los Jóvenes Turcos, fundado por su querido amigo . Durante su actividad en este movimiento dirigió el periódico “Le Tunisien” donde denunció la guerra que estaba llevando a cabo Italia en Libia. Esta defensa del pueblo libio contra el ejército italiano no gustó a los franceses que decidieron echarlo del país al fin de evitar repercusiones en la sociedad tunecina. En este periodo Thaalbi estuvo en Francia, Suiza y Alemania, y regresó a 1913 en Túnez.