Sabah gồm có 5 tỉnh, được chia tiếp thành 25 huyện. Tại cấp huyện, chính phủ bổ nhiệm một trưởng làng ("ketua kampung") tại mỗi làng. Các đơn vị hành chính được kế thừa từ chính quyền Anh, vốn trước đó phân thành các province. Vào thời thuộc Anh, một công sứ được bổ nhiệm để cai quản mỗi tỉnh và được cấp một dinh thự ("Istana"). Chức vụ công sứ bị bãi bỏ và thay thế bằng huyện trưởng khi Bắc Borneo trở thành bộ phận của Malaysia. Giống như phần còn lại của Malaysia, chính quyền địa phương nằm trong phạm vi quản lý của chính phủ bang. Tuy nhiên, từ khi đình chỉ các cuộc bầu cử cấp địa phương giữa Tình trạng khẩn cấp Malaya dù Sabah vốn ít ác liệt hơn nhiều, không có cuộc bầu cử địa phương nào. Nhà cầm quyền địa phương có các quan chức do hội đồng hành pháp của chính phủ bang bổ nhiệm.