Zur &lt;a href="Biathlon-Europacup%202003/2004"&gt;Saison 2003/04&lt;/a&gt; wechselte Gusev vom Langlauf zum Biathlon. Sein erstes Rennen bestritt er im Rahmen des Europacups in Ridnaun, bei dem er 72. eines Sprints wurde. Danach folgte in Osrblie die ersten Rennen im Biathlon-Weltcup. In seinem ersten Einzel wurde der Litauer 103., im folgenden Sprint konnte er mit Rang 100 erstmals die besten 100 erreichen. Erste internationale Meisterschaft im neuen Sport wurden die Biathlon-Weltmeisterschaften 2004 in Oberhof. Gusev wurde 85. des Einzels und 88. des Sprints. Es folgten die Biathlon-Europameisterschaften 2004 in Minsk, bei denen er 46. des Sprints und 41. der Verfolgung wurde. Abschluss der Saison wurde die Militär-Skiweltmeisterschaft 2004 in Östersund. Im 10-Kilometer-Freistilrennen im Skilanglauf wurde er 36., im Biathlon-Sprint 61. Früh in der &lt;a href="Biathlon-Europacup%202004/2005"&gt;Saison 2004/05&lt;/a&gt; schaffte Gusev in Oslo als 71. eines Sprints sein bestes Weltcup-Ergebnis. Zum letzten Höhepunkt und Karriereabschluss wurden die Biathlon-Weltmeisterschaften 2005 in Hochfilzen. Im Einzel belegte er den 95. Platz, mit Rang 82 im Sprint erreichte er in seinem letzten Rennen noch einmal eine seiner besten internationalen Platzierungen.