Im Jahr 1868 trat Friedrich Fromhold Martens für das russische Außenministerium in den Staatsdienst ein. Sechs Jahre später wurde er zum Attaché für besondere Aufträge des russischen Kanzlers und Außenministers Alexander Michailowitsch Gortschakow ernannt. Während der folgenden fast vier Jahrzehnte war er für drei verschiedenen Zaren als Diplomat tätig: bis 1881 für Alexander II., bis 1894 für Alexander III. und anschließend bis zu seinem Tod für Nikolaus II., der später durch die Februarrevolution 1917 gestürzt wurde. Er vertrat Russland auf fast allen internationalen Konferenzen, an denen das Land in dieser Zeit beteiligt war, so beispielsweise dem Brüsseler Kongress von 1889 zum Handels- und Seerecht, der Antisklavereikonferenz von 1889/1890 in Brüssel und den ersten vier Sitzungen der Haager Konferenz für Internationales Privatrecht in den Jahren 1893, 1894, 1900 und 1904. Darüber hinaus nahm er von 1884 bis zu seinem Tod an nahezu allen internationalen Rotkreuz-Konferenzen teil. Er war aktives Mitglied des 1873 im belgischen Gent gegründeten Institut de Droit international (Institut für Völkerrecht), unter anderem 1885 und 1894 als Vizepräsident, und beteiligte sich in vielfältiger Weise in dessen Aktivitäten, so beispielsweise an der Ausarbeitung der Konferenzdokumente für die von November 1884 bis Februar 1885 in Berlin stattfindende Kongokonferenz.