Baker vikarierte for Fela Kuti under innspillinger i 1971 utgitt av Regal Zonophone som Fela Kuti spilte også med Baker på albumet (1972) sammen med "Bobby Gass", et pseudonym for Bobby Tench fra The Jeff Beck Group. ble senere utgitt igjen som en del av samlingsalbumet i 1998. Baker dannet bandet "Baker Gurvitz Army" med brødrene Paul og Adrian Gurvitz i 1974 (etter anbefaling av manageren Bill Fehilly). Bandet utgav 3 album, (1974), (1975) og (1976). Bandet turnerte i England og rundt i Europa i 1975. Bandet ble oppløst i 1976, ikke lenge etter at Fehilly døde i en flyulykke.