俊波调任北京的国家审计署，出任国家审计署人事教育司司长。2002年3月，国务院正式任命项俊波为国家审计署副审计长。2003年至2004年期间的审计风暴，使得审计署与项俊波等人名声大振。同期央行的“三定方案”出台，并在2004年7月，任命项俊波出任中国人民银行副行长（2005年8月至2007年6月兼任中国人民银行上海总部主任）。2007年6月14日任中国农业银行（改股份制前）行长、党委书记，2007年10月当选中国共产党第十七届中央委员会候补委员。同时兼任中国银行业协会常务理事会副会长、中国农村金融学会会