Etter å ha blitt oppdaget av Scotty Bowman, trener og eier av Buffalo Sabres mens han spilte for det tyske landslaget og den eneste spilleren fra Köln som spilte for Kölner Haie i DEL, Krupp ble valgt som nr. 214 i NHL Entry Draft i 1983. Krupp ble sluppet fra klubben da han var 19 år etter at han vant det tyske mesterskapet i 1986 i et forsøk på å få en plass i det Bowman-rorede Sabres. Han debuterte mot Montreal Canadiens han tilbragte den senere delen av sesongen i Rochester Americans han vant en Calder Cup i 1989. I 1989-90 med Sabres skåret han et mål i en forlengesesperiode i den siste sesongskampen og med det sørget han for at Pittsburgh ikke kom til sluttspillet. Utviklet som en imponerende puck-spiller og en flyttbar forsvarer, forbedret Krupp sakte, men sikkert sine poengtotaler for hvert år med Sabres og i 1990-91 sesongen ble han valgt til å spille i NHL all-star kampen med det ble han kun den andre tyske spiller etter Walt Tkaczuk. På begynnelsen av 1991-92 sesongen var han inkludert av Sabres for den store overgangen sammen med Pierre Turgeon til New York Islanders for Pat LaFontaine den 25. oktober 1991. Krupp gled fort inn med Islanders han ble nest best etter Tom Kurvers blant forsvarerne med 35 poeng på 59 kamper. Krupp tilbragte de neste sesongene forskanset som en av Islanders beste forsvarere og vant mot den regjerende mesteren Pittsburgh Penguins i NHL-sluttspillet i 1993. Og nådde Conference-finalen med Islanders mot den store favoritten Montreal Canadiens før han ble byttet med et valg fra 1994 NHL Draft og sammen med Wade Belak til Quebec Nordiques for Ron Sutter og førstevalget Brett Lindros den 28. juni 1994. Plukket han opp 6 mål og 23 poeng i den lockout-forkortede 1994-95 sesongen, Krupps rettigheter ble da overført når Nordiques omlokaliserte seg og ble til Colorado Avalanche. Krupp er kjent for å ha scoret vinnermålet mot Florida Panthers i Stanley Cup-finalen i 1996. Han vant senere enda en Stanley Cup som medlem av Detroit Red Wings i 2002.