Élu au Comité central en , Joffé est président de la délégation soviétique lors des négociations avec les Allemands à Brest-Litovsk. Il conclut et signe l'armistice le suivant malgré ses réticences. Nommé ambassadeur à Berlin en , il en est expulsé le pour la part active qu'il a prise à la préparation de la révolution allemande. Peu après, il négocie le cessez-le-feu avec la Pologne en et traite avec les républiques baltes, Estonie, Lettonie et Lituanie à la fin de cette année. En 1921, il signe la paix de Rīga qui met fin au conflit russo-polonais. Il est fait peu après président de la commission du Turkestan.