Navnet viser til at kommunen ligger ved havstykket Hustadvika. Fjellet Stemshesten skilte de to kommunene fra hverandre, og ligger nå midt i kommunen.