Gjellum første post i utenrikstjenester var som ambassadesekretær i Mexico og visekonsul i San Francisco i California. Han returnerte til Norge i 1953. Han var ekspedisjonssjef i Utenriksdepartementet fra 1965 til 1969, Norges ambassadør til Kenya fra 1969 til 1972, utenriksråd fra 1972 til 1977, Norges ambassadør til EEC i Brussel fra 1977 til 1982 og til Vest-Tyskland fra 1982 til 1987. Han ble utnevnt til Kommandør med stjerne av Den Kongelige Norske St. Olavs Orden i 1974.