Von 1958 bis 1962, zur Zeit der sogenannten Zweiten Berlin-Krise und des Mauerbaues der DDR im Jahre 1961 war Kroll Botschafter in Moskau. Dabei war sein Ziel stets die Verbesserung der bilateralen Beziehungen. Zu diesem Zweck lud er sich beispielsweise am 9. November 1961 selbst zu einem Gespräch bei Partei- und Regierungschef Nikita Chruschtschow ein, das in der internationalen Presse starke Aufregung verursachte.