Lesedi la Rona, nästan lika stor som en tennisboll, grävdes fram i Botswana i november.
Den grova diamanten är 1 109 karat och tros vara mer än 2,5 miljarder år gammal.
Det hade förväntats att sälja för mer än £ 52m ($ 70m) men det högsta budet var cirka £ 45m ($ 61m).
Auktionen på Sotheby's var första gången en sådan stor diamant säljs till allmänheten.
Varför har så många stora diamanter hittats nyligen?
Auktionshuset hade kallat sin upptäckt "fynd av en livstid" och tidigare sagt att "varje aspekt av denna auktion är utan motstycke".
Lesedi la Rona, som betyder "vårt ljus" i Tswana-språket som talas i Botswana, upptäcktes av Lucara Diamond Corps Karowe-gruva.
Efter det att företaget misslyckats med att sälja såg det Kanadabaserade företaget - som har behållit diamanten - sina aktier falla mer än 14 procent på Torontobörsen.
Enligt en studie av Gemological Institute of America, den grova diamantens färg och transparens "exemplifiera" typ IIA diamanter.
Stenar i denna grupp sägs vara "de mest kemiskt rena och ofta visar extraordinär optisk transparens".
När det gäller storleken överskrids groven endast av Cullinan Diamond, som bröts i Sydafrika 1905 och presenterades för kung Edward VII.
Den 3 106 karatdiamanten skars i nio stenar, av vilka många finns i de brittiska kronjuvelerna.
Världens största oslipade diamant har misslyckats med att sälja på en Londonauktion efter att bud inte nådde minimipriset reserv.