Sainsbury's ble grunnlagt av John James Sainsbury, som åpnet den første butikken i Holborn i London i 1869. Dermed er kjeden verdens eldste supermarkedkjede, etterfulgt av danske Irma fra 1886. I 1922 ble det den største kjeden i Storbritannia, og den var også markedsledende i 1980-årene. Tesco overtok den posisjonen i 1995 og ASDA ble nest størst i 2003, hvilket betød at Sainsbury's rykket ned på tredjeplass.