Después de regresar a Inglaterra en 1900, Colbeck pronto volvió a navegar al sur, esta vez al mando de un barco de socorro, el "Morning", que fue enviado a principios de 1903 para reabastecer a los miembros de la Expedición Discovery del Capitán Scott que habían quedado atrapados en el hielo del estrecho de McMurdo en la Antártida. En enero de 1904 Colbeck regresó con el "Morning", esta vez con firmes instrucciones acerca de que si el "Discovery" no podía ser liberado del hielo debían abandonarlo, encargándose en tal caso Colbeck de devolver a casa a la expedición de Scott. En una carrera contra el tiempo, y con la buena suerte de un cambio de tiempo favorable, el "Discovery" se liberó del hielo y pudo volver por sus medios a Inglaterra.