Det finnes ikke noe instrumentalparti i «All I've Got to Do». Derfor ble sologitarist George Harrisons rolle å spille et rytmemønster i stedet. De fremførte aldri sangen offentlig på konserter.