Han ble i 1904 utnevnt til flåtekommandør og var dermed ansvarlig for de største og nyeste atlanterhavsskipene til White Star Line, og det var på denne tiden rederiet offentliggjorde planene om tre store atlanterhavsskip i Olympic-klassen, RMS «Olympic», RMS «Titanic» og HMHS «Britannic». Som flåtekommandør og den mest erfarne skipskapteinen i England ble Smith tilkalt for å ta kommandoen på det første skipet i klassen som stod ferdig, RMS «Olympic», som i sin tid var verdens største skip. Jomfruturen fra Southampton til New York ble en suksess 21. juni 1911, men under fortøyning til kai ble en assisterende taubåt fanget i vannstrømmen til Olympic og var delvis under skipets skrog en periode. Kaptein Smith sto på «Olympic»s bro under hendelsen.