Альбек дебютировал в составе национальной сборной Швеции 27 ноября 1999 года в товарищеском матче с командой ЮАР. Он дважды участвовал в чемпионатах мира — в 2002 и 2006 годах, сыграв на них по четыре матча. На чемпионате в Германии 2006 года Альбек в матче с Англией 20 июня забил гол, ставший 2000-м в истории чемпионатов мира. Также участвовал в трёх чемпионатах Европы: 2000, 2004 и 2008, на которых провёл 5 игр и забил 1 мяч. После чемпионата Европы 2008 года Альбек объявил о том, что прекращает выступления за сборную. Всего он сыграл за национальную сборную Швеции 74 матча, в которых забил 30 голов.