1994 wurde Ulmer Junioren-Weltmeisterin in der Einerverfolgung und im Punktefahren, nachdem sie im Jahr zuvor schon Vize-Weltmeisterin in dieser Disziplin geworden war. 2002 errang sie als Mannschaftskapitänin bei den Commonwealth Games die Goldmedaille in der Einerverfolgung. 2004 wurde sie Weltmeisterin. Ebenfalls 2004 wurde sie bei den Olympischen Spielen in Athen Olympiasiegerin in ihrer Spezialdisziplin. Dabei stellte sie mit einer Zeit von 3:24,537 Minuten einen neuen Weltrekord auf. Sie war die erste Neuseeländerin, die bei Olympischen Spielen Gold im Radsport holte; bei der Abschlussfeier trug sie die neuseeländische Fahne.