I januar 1968 ble han invitert til å bli med i Pink Floyd, da hans barndomsvenn og bandets daværende frontfigur, gitarist og vokalist, Syd Barrett, ble stadig mer ustabil trolig som følge av et overdrevent forbruk av hallusinogene stoffer. På denne tiden lå Gilmours band, Joker's Wild, an til å gjøre det omtrent like bra som Pink Floyd. Pink Floyd spilte opprinnelig coverversjoner av rhythm and blues og begynte sent i 1966 å spille Barretts komposisjoner. Bandets første album ble gitt ut av EMI i august 1967.