En avril 1996, Jean-Michel Severino intègre le Groupe Banque mondiale basé à Washington. Il est nommé responsable des activités menées par le Groupe en Europe centrale. Il se consacre tout particulièrement à la Bosnie-Herzégovine, pays profondément affecté par la guerre civile yougoslave. Un an après, il est nommé à la tête de la vice-présidence de la Banque mondiale pour l'aire Extrême-Orient.