I 1989 ble han utnevnt til assisterende justisminister (administrativ leder) i Justisdepartementet under president George H.W. Bush, og fikk etter sigende anerkjennelse for sin profesjonelle ledelse av administrasjonen. Videre ble Barr forfremmet til visejustisminister i 1990, og etterfulgte Dick Thornburgh som justisminister i 1991. Thornburgh trakk seg for å stille til Senatet, og Barr ble konstituert som justisminister. Barrs håndtering av en gisselsituasjon i et føderalt fengsel skal ha imponert presidenten, som nominerte ham til justisminister og fikk Senatets godkjennelse noen uker etter.