Jun'ichirō Koizumi n'est pas épargné par les difficultés. Ainsi, dès le , il est forcé de pousser à la démission l'un des piliers de son gouvernement, la populaire ministre des Affaires étrangères Makiko Tanaka, critiquée notamment au sein de la majorité pour des relations difficiles avec l'administration de son ministère, une controverse l'opposant à l'un de ses vice-ministres et plusieurs dérapages verbaux (elle avait notamment traité le président américain George W. Bush de « trou du cul » lors d'un voyage aux États-Unis en ). De plus, sa décision d'aller rendre hommage chaque année à partir du au sanctuaire de Yasukuni, dans lequel sont honorées les mémoires des soldats tombés lors des différents conflits auxquels les Japonais participèrent depuis 1868, parmi lesquels quatorze criminels de guerre de classe A condamnés lors du procès de Tokyo, est une cause récurrente de tensions avec la Corée du Sud et la République populaire de Chine (et cela malgré les justifications données par le Premier ministre, notamment le fait qu'il ne s'agisse que de visites à titre privé et qu'il ne s'y rende pas le jour anniversaire de la fin de la Seconde Guerre mondiale le 15 août, contrairement à la plupart des hommes politiques nationalistes). Signe de cette forte tension, aucun président (Jiang Zemin puis Hu Jintao) ni Premier ministre (Zhu Rongji puis Wen Jiabao) chinois ne s'est rendu au Japon durant la totalité du mandat de Koizumi, et ce dernier n'a fait pour sa part qu'un seul déplacement en République populaire de Chine, pour le de l'APEC les 20 et à Shanghai (en comparaison, il n'y eut entre 1980 et 2001 que six années sans rencontres bilatérales des chefs d'État et/ou de gouvernement des deux États tenues dans l'un des deux pays, pour quatre sur les cinq années passées au pouvoir de Koizumi).