Am 20. Januar 1999 feierte er gemeinsam mit Bjørn Otto Bragstad beim 0-1 Auswärtssieg im Freundschaftsspiel gegen Israel sein Debüt in der Norwegischen Nationalmannschaft. Trainer Semb war von der U-21 zur A-Nationalmannschaft aufgestiegen und vollzog einen Umbruch, in dem er sukzessive einen Großteil der U-21 Stammspieler in den A-Kader holte. In Folge bildete Bakke bis 2003 gemeinsam mit Erik Mykland, Øyvind Leonhardsen, Roar Strand und Petter Rudi den Mittelfeldstamm der Mannschaft. Bakke nahm daraufhin mit Norwegen an der Europameisterschaft 2000 teil, wo man zum Auftakt nach einem Tor von Steffen Iversen einen 1:0-Erfolg über Spanien feiern konnte. Nach einer 0:1-Niederlage gegen Jugoslawien schied die Mannschaft jedoch durch ein abschließendes 0:0-Remis, aufgrund des schlechteren direkten Vergleich gegenüber der jugoslawischen Auswahl, aus dem Turnier aus. Er bestritt alle drei Vorrundenspiele. Die anschließende Qualifikation zur Weltmeisterschaft 2002 verlief durchwachsen und mit nur zehn Punkten verpasste er mit der Nationalmannschaft als Tabellenvierter der Qualifikationsgruppe 5 hinter Polen, Ukraine und Weißrussland die Teilnahme am Endrundenturnier. Die Qualifikationsrunde zur Europameisterschaft 2004 verlief wieder etwas erfolgreicher, da die Mannschaft sich hinter Gruppensieger Dänemark für die Play-Off-Spiele qualifizierte. Nach einer 1:2-Auswärtsniederlage im Hinspiel, scheiterte Semb mit der Auswahl nach einer 0:3-Heimniederlage im Rückspiel, jedoch an der spanischen Nationalmannschaft. Anschließend entließ der Verband Semb Ende 2003 und ersetzte ihn durch Åge Hareide. Simultan dazu verlor Bakke aufgrund seiner Verletzungsprobleme seinen Stammplatz und kam nur mehr zweimal, im Jahre 2005, während einer 0-2 Heimniederlage gegen die Schweiz und im Jahre 2008, während einer 3-1 Niederlage gegen die montenegrinische Fußballnationalmannschaft, zum Einsatz.