Etter en kort periode i the Jeff Beck Group startet han sitt eget band, The Aynsley Dunbar Retaliation, som ga ut fire album i løpet av bandets knappe to års levetid. Dunbar var med på å skrive låta «Warning», som senere ble spilt inn av Black Sabbath og utgitt på deres debutalbum. Dunbar startet så prog rock-bandet Blue Whale, som turnerte i Skandinavia i januar 1970. Da originalbesetningen av King Crimson ble oppløst, forsøkte Dunbar uten hell å rekruttere Robert Fripp som ny gitarist i Blue Whale. Fripp ville heller at Dunbar skulle bli King Crimsons nye trommeslager, noe Dunbar takket nei til. Blue Whale spilte inn et selvtitulert album før det ble oppløst.