GAO ble opprettet som General Accounting Office ved budsjett- og regnskapsloven av 1921. Navnet ble endret til det nåværende i 2004. Lederen har tittelen og utnevnes av USAs president fra et utvalg utpekt av Kongressen.