Erik Albinder gab sein internationales Debüt mit einem Paukenschlag. Er wurde bei den Biathlon-Weltmeisterschaften 2000 in Lahti an der Seite von Rickard Noberius, Tord Wiksten und Henrik Forsberg als Schlussläufer eingesetzt und wurde 12. Es sollte nicht nur der einzige Einsatz bei einer WM, sondern auch im Rahmen des Weltcups bleiben. Ein Jahr später wurden die Biathlon-Europameisterschaften 2001 in Haute-Maurienne zum Saisonhöhepunkt. Albinder erreichte im Einzel den 43., im Sprint den 51. und mit David Ekholm, Erik Olofsson und Jörgen Saarela im Staffelrennen den zehnten Platz. Bei der Militär-Skiweltmeisterschaft 2001 kam in Jericho ein 55. Rang im Sprint für den Sportsoldat hinzu. Es folgten in der Folgezeit vor allem Einsätze im Europacup, bei denen der Schwede regelmäßig in die Punkte lief, ohne jedoch Top-25-Resultate zu erreichen. Letzte internationale Meisterschaft wurden die Militär-Skiweltmeisterschaften 2004 in Östersund. Albinder kam auf den 75. Rang im Sprint und wurde 20. mit der Militärpatrouille. Nach der Saison beendete er seine Karriere.