Kaspars Dumbris ist Sportsoldat und startet für einen Armeesportklub, wo er von Vitalis Urbanovics trainiert wird. Er startete erstmals 2002 in Ridnaun bei Junioren-Weltmeisterschaften. Dort konnte er ebenso wie 2003 in Kościelisko keine nennenswerten Ergebnisse erreichen. 2004 wurde er in Haute-Maurienne Fünfter im Sprint und Sechster mit der Staffel, ein Jahr später in Kontiolahti nochmals Zehnter im Sprint. Bei seiner letzten Junioren-WM in Presque Isle erreichte er als bestes Ergebnis einen sechsten Platz mit der Staffel. 2007 trat Dumbris erstmals bei Biathlon-Weltmeisterschaften an. In Antholz wurde er 72. im Sprint und Zwölfter mit der Staffel.