IMO har et permanent sekretariat av ansatte som representerer organisasjonens medlemmer. Sekretariater blir styrt av en generalsekretær som i perioder blir valgt av IMO-forsamlingen, ulike divisjoner som for eksempel maritim sikkerhet og miljøbeskyttelse.