Dos pequeñas bahías se abren en Port Madison: La Bahía Miller en el noroeste, y otra pequeña bahía en el sur que, de manera confusa, también es llamada Port Madison Bay.