En stor och värdefull boksamling säljes på offentligauktion