Ibrahimović voulait jouer pour la Bosnie-Herzégovine, mais l'équipe nationale lui ferme ses portes. Il choisit alors l’équipe nationale suédoise. Il honore sa première sélection avec l'équipe nationale de Suède, le , lors d'un match amical face aux Îles Féroé. Il est titularisé et la rencontre s'achève sur un match nul (0-0). Il est remplaçant lors de la Coupe du monde 2002, malgré quelques apparitions et devient titulaire de l’équipe à la veille de l’Euro 2004, associé en attaque à Henrik Larsson. Il inscrit un but sur pénalty face à la Bulgarie pour le premier match de la Suède lors de l’Euro 2004 (victoire de la Suède 5-0). Quelques jours plus tard, alors que la Suède est menée 1-0 face à l’Italie pour son deuxième match de poule, Ibrahimović inscrit un but à la : une aile de pigeon qui se loge dans la lucarne de Gianluigi Buffon à la suite d'un corner tiré par Kim Källström (match nul 1-1). Les Suédois s’inclinent aux tirs au but en quart de finale face aux Pays-Bas, Ibrahimović manque le sien.