A.- S._, von Beruf Bauführer, ist in der X._ AG, Hoch- und Tiefbau, als Geschäftsführer angestellt.
Darüber hinaus betätigte er sich verschiedentlich mit andern Personen zusammen in Baukonsortien. Am 5. September 1996 meldete das kantonale Steueramt von S._ in den Jahren 1987 bis 1992 erzielte Einkommen aus nebenberuflicher selbstständiger Erwerbstätigkeit. Im Formular "Selbsteinschätzung für die Berechnung des persönlichen AHV-Beitrages von Selbständigerwerbenden" bezifferte S._ am 31. Oktober 1996 sein im Erwerbszweig "Liegenschaftenverwaltung" erzieltes Einkommen für die Jahre 1994 und 1995 mit je Fr. 9800.- pro Jahr. Gestützt auf diese Unterlagen setzte die Ausgleichskasse des Kantons Zürich mit vier Verfügungen vom 5. Dezember 1996 die persönlichen Beiträge auf Fr. 8229.- für 1991, je auf Fr. 11'047. 20 für 1992 und 1993, auf null Franken für 1994 und 1995 sowie auf je Fr. 515. 40 für 1996 und 1997 fest.
B.- Gegen die vier Beitragsverfügungen erhob S._ Beschwerde und bestritt eine Beitragspflicht.
Gestützt auf eine neue Steuermeldung vom 28. Februar 1997 hob die Ausgleichskasse mit Verfügungen vom 9. April 1998 die angefochtenen Verfügungen für die Beitragsjahre 1996 und 1997 wiedererwägungsweise auf und reduzierte die geschuldeten persönlichen Beiträge für diese beiden Jahre auf je Fr. 189.- (inkl. Verwaltungskosten). Auch gegen diese Verfügungen liess S._ Beschwerde einreichen. Mit Entscheid vom 15. Januar 2001 hiess das Sozialversicherungsgericht des Kantons Zürich die Beschwerde in dem Sinne teilweise gut, als es die Beitragsverfügungen vom 5. Dezember 1996, soweit sie die Beitragsjahre 1991, 1992/1993 und 1996/1997 betreffen, sowie die Wiedererwägungsverfügung vom 9. April 1998 aufhob und die Ausgleichskasse anhielt, die für diese Jahre geschuldeten persönlichen Beiträge im Sinne der Erwägungen neu zu berechnen und darüber neu zu verfügen.
Im Übrigen wies es die Beschwerde in Bestätigung der Beitragsverfügung für die Jahre 1994/1995 ab.
C.- S._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, der vorinstanzliche Entscheid sei insoweit aufzuheben, als darin die Einnahmen aus der Liegenschaft Y._ als AHV-beitragspflichtiges Einkommen qualifiziert worden seien.
Ausgleichskasse und Bundesamt für Sozialversicherung verzichten auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Nach der Rechtsprechung des Eidgenössischen Versicherungsgerichts stellt der Rückweisungsentscheid einer kantonalen Rekursinstanz eine im Sinne von Art. 128 in Verbindung mit Art. 97 Abs. 1 OG und Art. 5 VwVG mit Verwaltungsgerichtsbeschwerde an das Eidgenössische Versicherungsgericht anfechtbare Endverfügung dar. Anfechtbar ist grundsätzlich nur das Dispositiv, nicht aber die Begründung eines Entscheides. Verweist indessen das Dispositiv eines Rückweisungsentscheides ausdrücklich auf die Erwägungen, werden diese zu dessen Bestandteil und haben, soweit sie zum Streitgegenstand gehören, an der formellen Rechtskraft teil. Dementsprechend sind die Motive, auf die das Dispositiv verweist, für die Behörde, an die die Sache zurückgewiesen wird, bei Nichtanfechtung verbindlich. Beziehen sich diese Erwägungen auf den Streitgegenstand, ist somit auch deren Anfechtbarkeit zu bejahen (BGE 120 V 237 Erw. 1a mit Hinweis).
b) Im angefochtenen Entscheid hat das kantonale Gericht die Frage, ob die Einnahmen aus der Liegenschaft Y._ als AHV-beitragspflichtiges Einkommen zu qualifizieren sind, bejaht und die Ausgleichskasse angewiesen, die Beiträge für die noch im Streite liegenden Beitragsjahre im Sinne der Erwägungen neu zu berechnen.
Damit hat es die Frage der Qualifikation der Einnahmen aus der fraglichen Liegenschaft verbindlich festgelegt, sodass auf die Verwaltungsgerichtsbeschwerde einzutreten ist.
2.- Da keine Versicherungsleistungen streitig sind, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob der vorinstanzliche Entscheid Bundesrecht verletzt, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
Ferner ist Art. 114 Abs. 1 OG zu beachten, wonach das Eidgenössische Versicherungsgericht in Abgabestreitigkeiten an die Parteibegehren nicht gebunden ist, wenn es im Prozess um die Verletzung von Bundesrecht oder um die unrichtige oder unvollständige Feststellung des Sachverhalts geht.
3.- a) Nach Art. 23 Abs. 1 AHVV obliegt es in der Regel den Steuerbehörden, das für die Berechnung der Beiträge Selbstständigerwerbender massgebende Erwerbseinkommen auf Grund der rechtskräftigen Veranlagung für die direkte Bundessteuer und das im Betrieb investierte Eigenkapital auf Grund der entsprechenden rechtskräftigen kantonalen Veranlagung zu ermitteln. Die Angaben der Steuerbehörden hierüber sind für die Ausgleichskassen verbindlich (Art. 23 Abs. 4 AHVV).
Die absolute Verbindlichkeit der Angaben der Steuerbehörden für die Ausgleichskassen und die daraus abgeleitete relative Bindung des Sozialversicherungsgerichts an die rechtskräftigen Steuertaxationen sind auf die Bemessung des massgebenden Einkommens und des betrieblichen Eigenkapitals beschränkt. Diese Bindung betrifft also nicht die beitragsrechtliche Qualifikation und beschlägt daher die Frage nicht, ob überhaupt Erwerbseinkommen und gegebenenfalls solches aus selbstständiger oder aus unselbstständiger Tätigkeit vorliegt und ob die Person, die das Einkommen bezogen hat, beitragspflichtig ist. Somit haben die Ausgleichskassen ohne Bindung an die Steuermeldung auf Grund des AHV-Rechts zu beurteilen, wer für ein von der Steuerbehörde gemeldetes Einkommen beitragspflichtig ist (BGE 121 V 83 Erw. 2c, 114 V 75 Erw. 2, 110 V 86 Erw. 4 und 370 Erw. 2a, 102 V 30 Erw. 3b mit Hinweisen).
b) Streitig und zu prüfen ist im vorliegenden Verfahren einzig die Frage, ob der Ertrag aus der Vermietung der Liegenschaft Y._ als AHV-beitragspflichtiges Einkommen zu qualifizieren ist. In steuerrechtlicher Hinsicht ist diese Frage irrelevant. Im Gegensatz zur Unterscheidung, ob ein steuerbarer Kapitalgewinn eines Liegenschaftenhändlers oder ein steuerfreier Kapitalgewinn eines Privaten, der diesen im Rahmen einer privaten Vermögensverwaltung erzielt, vorliegt, ist ein Vermögensertrag steuerrechtlich stets als Einkommen zu erfassen. Eine Bindung an die Steuermeldung ist daher nicht gegeben.
4.- a) Der sozialversicherungsrechtlichen Beitragspflicht unterliegen grundsätzlich alle Einkünfte, die sich aus irgendeiner auf Erwerb gerichteten Tätigkeit (Art. 4 Abs. 1 AHVG) ergeben, gleichgültig, ob diese im Haupt- oder Nebenberuf und ob sie regelmässig oder nur einmalig ausgeübt wird. Demgegenüber schulden die Versicherten vom reinen Kapitalertrag keine Beiträge, weil die blosse Verwaltung des persönlichen Vermögens nicht Erwerbstätigkeit im Sinne des AHV-Beitragsrechts ist (BGE 111 V 83, 110 V 86 Erw. 5; SVR 1994 AHV Nr. 13 S. 31; ZAK 1987 S. 296 Erw. 2a und 1984 S. 224 Erw. 1b mit Hinweisen).
Erwerbseinkommen im Sinne von Art. 9 Abs. 1 AHVG und Art. 17 AHVV bildet der durch die Veräusserung eines Grundstücks erzielte Gewinn - in Übereinstimmung mit der Praxis zu Art. 21 Abs. 1 lit. a BdBSt und zu Art. 18 DBG (BGE 125 II 113) - dann, wenn der Veräusserer gewerbsmässig, d.h. im Rahmen einer (haupt- oder nebenberuflichen) geschäftlichen Tätigkeit mit Liegenschaften gehandelt hat. Nicht Erwerbseinkommen, sondern beitragsfreien Vermögensertrag bilden solche Gewinne hingegen, wenn sie bei der Verwaltung eigenen Vermögens erzielt wurden oder als Frucht der Ausnützung einer zufällig aufgetretenen Gelegenheit angefallen sind.
Indizien für gewerbsmässigen Grundstückhandel sind namentlich der enge Zusammenhang mit der beruflichen Tätigkeit des Steuerpflichtigen sowie ganz allgemein der Einsatz spezieller Sachkenntnisse, die Verwendung bedeutender fremder Mittel zur Finanzierung der Grundstückkäufe, die Investition der erzielten Gewinne in neuen Grundbesitz oder die Häufung von Grundstückkäufen und -verkäufen (BGE 98 V 90; ZAK 1983 S. 384 Erw. 2b, 1981 S. 345 Erw. 2c; Greber/ Duc/Scartazzini, Commentaire des articles 1 à 16 de la loi fédérale sur l'assurance-vieillesse et survivants [LAVS], S. 272; vgl. auch BGE 125 II 113 und 104 Ib 167 mit Hinweisen).
Nach der Rechtsprechung stellt die Vermietung von (unmöblierten) Wohnungen eines so genannten Renditenhauses Vermögensverwaltung dar, wenn und soweit diese Tätigkeit sich auf die Erzielung der Erträgnisse des Vermögensobjekts an sich beschränkt und nicht betrieblichen Charakter hat (BGE 111 V 83 Erw. 2a, 110 V 86 Erw. 5a, je mit Hinweisen; ZAK 1987 S. 519 Erw. 3a mit Hinweisen; Greber/Duc/Scartazzini, a.a.O., S. 272). Gleich verhält es sich mit der Vermietung von Geschäftsräumlichkeiten. Dagegen erhält die Vermietertätigkeit dann betrieblichen Charakter, wenn sie die blosse Gebäudeverwaltung übersteigt (BGE 110 V 86 Erw. 5a; ZAK 1987 S. 519 Erw. 3a).
Für die beitragsrechtliche Abgrenzung von blosser (privater) Vermögensverwaltung und betrieblicher (gewerbsmässiger) Nutzung ist das in einer Liegenschaft investierte Fremdkapital grundsätzlich nur massgebend, wenn der Versicherte eine Tätigkeit ausübt, die auch Kapitalinvestitionen verlangt, wie der Kauf und Verkauf von Grundstücken.
Dagegen kommt diesem Kriterium keine entscheidende Bedeutung zu, wenn die Tätigkeit sich darauf beschränkt, aus einer eigenen Liegenschaft Mietzinseinnahmen zu erzielen.
In einem solchen Fall ist die Herkunft der Mittel für den Erwerb des Vermögensobjektes - Darlehen oder eigene Gelder - von untergeordneter Bedeutung, wenn auch der Umstand, dass jemand ohne anlagebedürftiges eigenes Vermögen bzw.
unter Inanspruchnahme fremder Gelder Häuser besitzt und bedeutendes Einkommen aus Vermietungen erzielt, gelegentlich doch ein Indiz gegen blosse Vermögensverwaltung sein kann (BGE 111 V 85 Erw. 2b; ZAK 1987 S. 202 Erw. 4b). Dies ist namentlich dann der Fall, wenn diese Einkommensquelle in einem wirtschaftlichen Zusammenhang mit einer haupt- oder nebenberuflich ausgeübten erwerblichen Tätigkeit, wie beispielsweise Liegenschaftshandel, steht und dem Besitz von Liegenschaften sowie deren Vermietung nicht eindeutig eine davon abhängige Funktion zukommt. Unter solchen Umständen erscheint die Vermietertätigkeit als wirtschaftliche Folge der haupt- oder nebenberuflich gewerbsmässig ausgeübten Tätigkeit in der Bau- oder Immobilienbranche und nicht als blosse Kapitalanlage in Immobilien (Pra 1997 Nr. 80 S. 409).
b) Der Beschwerdeführer erwarb die Liegenschaft Y._ im Rahmen eines gemischten Rechtsgeschäftes teilweise als Erbvorbezug und teilweise als Kauf. Die Übertragung fand am 23. Oktober 1987 statt. Die Liegenschaft wird von der X._ AG, bei der der Beschwerdeführer als Geschäftsführer tätig ist und an der er mit 50 Aktien mit einem Steuerwert von Fr. 1000.- pro Aktie beteiligt ist, gewerblich genutzt. Für diese Nutzung im Rahmen eines Mietvertrages fallen dem Beschwerdeführer von der X._ AG Mieterträge an. Gerade die Übertragung dieser Liegenschaft im Rahmen eines Erbvorbezuges und deren langjährige Nutzung durch eine offensichtlich ganz oder doch weitgehend im Familienbesitz befindliche Aktiengesellschaft deuten darauf hin, dass diese Liegenschaft im Rahmen der privaten Vermögensverwaltung gehalten wird. Es liegen seitens des Beschwerdeführers auch keine Tätigkeiten vor, die über die blosse Stellung als Vermieter hinausgehen würden. Ebenso wenig kann die Übertragung der Liegenschaft im Rahmen eines teilweisen Erbvorbezuges von seinem bejahrten Vater (Jahrgang 1916), der nur knapp zwei Jahre nach der Übertragung gestorben ist, als aussergewöhnlich betrachtet werden. Vielmehr wollte der Vater des Beschwerdeführers wohl damit die Kontinuität im Betrieb der X._ AG bewahren und im Rahmen dieser Nachfolgeregelung verhindern, dass die Firma bei einer allfälligen Veräusserung der Liegenschaft Y._ an einen Dritten auf diese für den Geschäftsbetrieb notwendigen Parzellen verzichten müsste. Die blosse Vermietung von Liegenschaften an eine vom AHV-Pflichtigen (mit-)beherrschte Gesellschaft führt noch nicht dazu, dass die Erträge aus der Vermietung nicht mehr als private Vermögensverwaltung, sondern als AHV-beitragspflichtige Erwerbstätigkeit zu qualifizieren wären. Die Beschwerdegegnerin selbst hat im Übrigen weitere aus der Erbschaft stammende Liegenschaften (Einfamilienhaus Z._, Mehrfamilienhaus A._) ohne weiteres als Privatvermögen betrachtet. Dasselbe hat nach dem Ausgeführten auch für die Liegenschaft Y._ zu gelten.
Auch hier haben die Erträge aus der Vermietung dieser Liegenschaft nichts mit der Tätigkeit des Beschwerdeführers als Liegenschaftenhändler, wofür eine AHV-Beitragspflicht als Selbstständigerwerbender bejaht worden ist, zu tun. Die Verwaltungsgerichtsbeschwerde ist daher in beantragtem Umfange gutzuheissen und die Nettomieterträge des Beschwerdeführers aus der Vermietung der Liegenschaft Y._ sind von der AHV-Beitragspflicht auszunehmen. Die Ausgleichskasse wird in diesem Sinne und unter Berücksichtigung der übrigen Erwägungen des kantonalen Gerichts die Beiträge neu festzusetzen haben.
5.- Da es nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen geht, ist das Verfahren kostenpflichtig (Art. 134 OG e contrario). Dem Prozessausgang entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen und dem Beschwerdeführer eine Parteientschädigung zu entrichten (Art. 156 Abs. 1 und Art. 159 Abs. 1 in Verbindung mit Art. 135 OG).
Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde wird
der Entscheid des Sozialversicherungsgerichts des
Kantons Zürich vom 15. Januar 2001 hinsichtlich der
Beitragsjahre 1991, 1992/1993 und 1996/1997 insoweit
abgeändert, als die Einnahmen des Beschwerdeführers
aus der Vermietung der Liegenschaft Y._ nicht
als AHV-beitragspflichtiges Einkommen zu qualifizieren
und damit von der AHV-Beitragspflicht auszunehmen
sind.
II.Die Gerichtskosten von Fr. 1500.- werden der Ausgleichskasse des Kantons Zürich auferlegt.
III. Der geleistete Kostenvorschuss von Fr. 5000.- wird dem
Beschwerdeführer zurückerstattet.
IV.Die Ausgleichskasse des Kantons Zürich hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung
von Fr. 2500.- (einschliesslich Mehrwertsteuer) zu
bezahlen.
V.Das Sozialversicherungsgericht des Kantons Zürich wird
über eine Neuverlegung der Parteikosten für das kantonale
Verfahren entsprechend dem Ausgang des letztinstanzlichen
Prozesses zu befinden haben.
VI.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 2. Mai 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Vorsitzende der II. Kammer:
Der Gerichtsschreiber: