Arbeidet i Utenriksdepartementet og samarbeidet med Beichmann, som var engasjert i mellomfolkelige rettsspørsmål, la grunnlaget for Smedals sterke interesse for og engasjement i studier av betingelsene for tilegning av statlig overhøyhet over såkalt ingenmannsland – . Han ble 1930 dr.juris på avhandlingen . Gustav Smedal spilte en sentral rolle i den såkalte Grønlandssaken – striden mellom Norge og Danmark om retten til hele eller deler av Grønland. Han forfattet både bøker og artikler knyttet til norsk ekspansjon i polare områder.