Han var delegat til Folkeforbundet, og ble i august 1931 utnevnt til stats-undersekretær og til ambassadør til Weimar-Tyskland. Fra sin post i Berlin ble François-Poncet vitne til hvordan Hitler ble sterkere, og kom til makt, og så hvordan landet ble omstilt til krigsforberedelser. François-Poncet ble beskrevet av den amerikanske journalist William Shirer i boken som «den best informerte diplomat i Berlin», men hans mange advarsler om Hitlers intensjoner ble for det meste neglisjert av den franske regjering.