У складі національної збірної Швеції дебютував 6 листопада 1932 року в програному (1:2) товариському матчі проти Швейцарії. Той поєдинок виявився вдалим для Гуннара, оскільки за 7 хвилин, проведених на футбольному полі, він встиг відзначитися голом у футболці «Трьох корон». Востаннє футболку національної команди одягав 23 травня 1934 року в переможному (4:2) товариському матчі проти Польщі. З 1932 по 1934 рік зіграв 6 матчів за національну команду, відзначився 1 голом. У 1934 році Йожеф Надь, тодішній головний тренер збірної, викликав Ульссона до складу національної команди для участі в чемпіонаті світу. На турнірі в Італії Гуннар був резервістом і не зіграв у жодному поєдинку.