Han var USAs finansminister under president George W. Bush i perioden 2001 til 2002, men slik at skattepolitikken var tillagt en assisterende minister, Mark Weinberger. O'Neill ble snart lagt merke til ikke minst for hyppige ytringer av heller regjeringskritisk karakter, Han foretok også en reise i Afrika med sangeren Bono. I 2002 fremkom det av en rapport som var blitt utarbeidet på oppdrag av O'Neill at det fremtidige underskudd i statskassen ville komme opp i 500 milliarder US-Dollar og pekte på store fremtidige problemer knyttet til dette, dersom den økonomiske politikk ikke ble lagt om. Meningsforskjellene på skattepolitikkens område og i andre saker førte til at presidenten avløste ham i desember 2002; presidenten utnevnte John W. Snow til hans etterfølger.