Rücker har doktorgrad i økonomi. Han arbeidet i utenrikstjenesten fra 1979 til 1991, og var stasjonert i Bonn, Frankfurt am Main, Wien, Dar-es-Salaam og Detroit. Fra 1991 til 1993 var han utenrikspolitisk rådgiver for SPDs fraksjon i Forbundsdagen, og fra 1993 til 2001 var han overborgermester i Sindelfingen. Han var FNs ambassadør og stedfortredende høykommissær i Bosnia-Hercegovina fra 2001 til 2002. Deretter var han frem til 2004 sjef for finans og administrasjon i det tyske utenriksministeriet. I 2005 ble han utnevnt til stedfortreder for FNs spesialutsending for Kosovo, Søren Jessen-Petersen, og samtidig sjef for den økonomiske gjenoppbyggingen i Kosovo. 1. september 2006 utnevnte Kofi Annan Rücker til Jessen-Petersens etterfølger som spesialutsending og leder for Kosovos midlertidige sivile regjering.