Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Der Beschwerdeführer erlitt am 19. Juli 1995 einen Arbeitsunfall (Sturz von einer Leiter), der zu einer Schädigung des Rückens führte. Nach den medizinischen Akten kann er seine bisherige Tätigkeit auf dem Bau nicht mehr ausüben. Hingegen sind ihm alle beruflichen Tätigkeiten mit wechselnder Belastung und ohne Tragen von Lasten über 20 kg zumutbar.
Mit Vorbescheid vom 1. Mai 1998 teilte die IV-Stelle Bern dem Versicherten mit, dass das Rentenbegehren abgewiesen werden müsse, da sich ihm ein breiter Fächer von Hilfsarbeiten aller Art eröffne. Daran hielt sie in der Verfügung vom 2. November 1998 fest.
2.- Streitig ist, ob der medizinische Sachverhalt hinreichend abgeklärt ist. Die Vorinstanz hat die entsprechende Rechtsprechung zutreffend dargestellt.
a) Verwaltung und Vorinstanz verneinen einen Anspruch auf Leistungen der Invalidenversicherung, da der Versicherte in einer angepassten Erwerbstätigkeit, in welcher er allerhöchstens zu 25 % in seiner Leistungsfähigkeit eingeschränkt sei, ein rentenausschliessendes Einkommen erzielen könne. Der Beschwerdeführer widersetzt sich der Auffassung, in einer angepassten Tätigkeit bestehe eine volle Arbeitsfähigkeit. Gemäss einem im Auftrage der Schweizerischen Unfallversicherungsanstalt (SUVA) erstatteten Gutachten der Orthopädischen Klinik des Spitals Y._ vom 29. Juli 1999 werde nämlich die frühere Verdachtsdiagnose einer Schmerzverarbeitungsstörung bestätigt. Unter diesen Umständen dränge sich die Abklärung der Arbeitsfähigkeit in psychosomatischer Hinsicht auf.
b) Zu Recht wird nicht bestritten, dass dem Beschwerdeführer auf Grund des somatischen Beschwerdebildes grundsätzlich alle Tätigkeiten, die nicht als Schwerarbeit gelten, zumutbar sind, ihm ein grosses Einsatzgebiet offen steht und die Restarbeitsfähigkeit auf dem ihm offen stehenden freien Arbeitsmarkt durchaus zu verwerten wäre und zu einem rentenausschliessenden Erwerbseinkommen führen würde.
c) In der Verwaltungsgerichtsbeschwerde wird indessen gerügt, dass sich in den Akten ernsthafte Hinweise auf eine psychische Beeinträchtigung fänden, welche eine Arbeitsunfähigkeit bewirkten. Im Bericht vom 1. Februar 1996 der Rheumatologischen Klinik und Poliklinik des Spitals Y._, wird zwar einzig die Diagnose eines Status nach traumatischer Kompressionsfraktur LWK1 erhoben. Bei der Beurteilung und der Erörterung des weiteren Vorgehens weisen die Ärzte jedoch darauf hin, dass es zwei Problemkreise zu beachten gälte. Aus somatischer Sicht sei der Versicherte für leichte und mittelschwere Arbeiten als arbeitsfähig zu betrachten. Daneben bestehe aber auch eine Schmerzverarbeitungsstörung, die therapeutisch sehr schwer anzugehen sein werde. Im Rahmen der Abklärungen der SUVA hielt der Kreisarzt Dr. Max O._ im Bericht vom 24. Mai 1996 fest, dass die geklagten massiven Beschwerden rheumatologisch nicht erklärt werden könnten. Es sei deshalb der Verdacht auf eine Schmerzverarbeitungsstörung geäussert worden. Dieser Eindruck habe sich seither bestätigt. Im Bericht des Regionalspitals Thun vom 28. Oktober 1996 zuhanden des Kreisarztes wird in der Beurteilung darauf hingewiesen, dass die beste Therapie die Reintegration in den Arbeitsprozess wäre, "was ja aber durch die Schmerzverarbeitungsstörung verhindert wird". Schliesslich erstattete die Klinik und Poliklinik für Orthopädische Chirurgie des Spitals Y._ am 29. Juli 1999 zuhanden der SUVA einen Bericht. Darin wird bestätigt, dass sich keine wesentlichen pathologischen Befunde erheben liessen. Diesbezüglich sei gegenüber der Voruntersuchung vom Dezember 1995 keine Änderung eingetreten. Die Diagnose wird nunmehr umschrieben als chronifiziertes thorako-lumbales Schmerzsyndrom bei Schmerzverarbeitungsstörung und in leichter Keilwirbelbildung verheilter LWK1 Fraktur ohne Instabilität. Unter der Rubrik "Bemerkungen" wird betont, dass dem Versicherten ein gewisses Schmerzbild und ein damit verbundener Leidensdruck nicht abzusprechen sei. Es scheine jedoch recht eindeutig, dass dies vier Jahre nach dem Unfall nicht mehr von der Verletzung bzw. ihren Folgen dominiert sei, sondern durch Faktoren wie psychogene Überlagerung und Schmerzverarbeitungsstörung.
d) Nach dem Gesagten ist daher nicht auszuschliessen, dass bereits im massgeblichen Zeitraum des Verfügungserlasses (<ref-ruling> Erw. 1b) psychische Beschwerden bestanden haben könnten. Ob dies zutrifft, die Störungen Krankheitswert aufweisen und einen Einfluss auf die Arbeitsfähigkeit hatten, wird die IV-Stelle in einer hiefür spezialisierten Klinik abklären lassen.

Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde werden der Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. Juli 1999 und die Verfügung der IV-Stelle Bern vom 2. November 1998 aufgehoben und die Sache wird an die IV-Stelle Bern zurückgewiesen, damit sie nach erfolgter Abklärung im Sinne der Erwägungen über den Rentenanspruch neu verfüge.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle Bern hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 1000. - (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Das Verwaltungsgericht des Kantons Bern wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses zu befinden haben.
V.Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Kantons Bern und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 9. Juli 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: