W końcu 1940 nawiązał kontakt z Benoîtem Frachonem odnawiając tym samym kontakty z zakonspirowaną Partią Komunistyczną. Po ataku Hitlera na Związek Radziecki środowisko komunistów francuskich oficjalnie przystąpiło do Ruchu Oporu, Komitet Centralny powierzył Tillonowi tworzenie oddziałów wojskowych partii - Organizacji Specjalnej Walki (OS) i Batalionów Młodzieży. W marcu 1942 został on Komendantem Krajowym Wolnych Strzelców i Partyzantów (FTP) – zbrojnego ramienia partii, które w ramach Frontu Narodowego zdecydowano się otworzyć na ludzi z różnych środowisk politycznych (głównie lewicowych) nie ograniczając ich jedynie do komunistów. FTP dzielili się na część złożoną z Francuzów ("Wolni Strzelcy i Partyzanci Francuscy" – FTPF) i obcokrajowców ("Imigrancka Siła Robocza" – FTP-MOI). Jednocześnie umocniła się pozycja Tillona w centralnych kręgach partyjnych, dzięki czemu stał się drugą po Duclosie najważniejszą osobą w PCF. W wyniku unifikacji Ruchu Oporu w lutym 1944 powstały Francuskie Siły Wewnętrzne (FFI) – jednolita organizacja skupiająca wszystkie ruchy i siatki podziemia – w których skład weszły także FTP. Z powodu zachowania przezeń autonomii Tillon zachował swoje stanowisko Komendanta Krajowego Wolnych Strzelców i Partyzantów. 14 lipca 1944 wydał dekret nakazujący bojownikom FFI wywodzących się z FTP umieszczanie na opaskach obok barw narodowych, skrótu "FFI" i krzyża lotaryńskiego skrótu "FTP/FTPF/FN" lub czapki wolności.