Kommunen har fått sitt navn etter elva Vefsna som renner gjennom kommunen og ut i Vefsnfjorden. To andre store vassdrag er Fusta-vassdraget og Drevjo-vassdraget nord i kommunen. Fustvatnet er den største innsjøen. Andre innsjøer i Fustavassdraget er Mjåvatnet, Ømmervatnet og Luktvatnet. I Drevjovassdraget er Drevvatnet største innsjø. Foruten disse vassdragene finner vi innsjøene; Hundålvatnet, Grytåvatnet og Aunvatnet på Øyfjellplatået vest for Vefsnfjorden. Store deler av kommunen består av skog og fjellområder. Det høyeste fjellet er Geittinden på 1556 moh. Litt sør for Mosjøen finner man kalksteingrotta Øyfjellgrotta. På sørsiden av Vefsnfjorden ligger bygdene Vikdalen, Hundåla og Husvika. I nord finner man den lille bygda Elsfjord.