A.- Der 1949 geborene Spanier H._ arbeitete seit seinem 18. Altersjahr für verschiedene Arbeitgeber in der Schweiz, zuletzt ab 1977 bis Ende September 1994 als Lagerist bei der Firma X._ AG. 1981 erlitt er eine Hirnblutung und 1989 einen Herzinfarkt. 1993 traten erstmals Rückenschmerzen auf. Nach dem Verlust des Arbeitsplatzes im Herbst 1994 hielt er sich mit seiner Ehefrau und den beiden Töchtern in Spanien auf. Seit Oktober 1996 wohnt er wieder in A._. Am 17. September 1996 meldete er sich aus Spanien über den von ihm mit einer Generalvollmacht ausgestatteten Juristen K._ bei der Invalidenversicherung zum Rentenbezug an. Die IV-Stelle für Versicherte im Ausland holte ein Arztzeugnis (Dr. med.
P._ vom 10. Dezember 1996) und Angaben der früheren Arbeitgeberfirma (Fragebogen für Arbeitgebende vom 6. Februar 1997) ein. Gestützt darauf bezeichnete der IV-Stellen-Arzt Dr. med. R._ den Gesuchsteller als zwar behandlungsbedürftig, aber auf die Dauer als Lagerist oder in einer vergleichbaren Tätigkeit weiterhin arbeitsfähig. Mit Verfügung vom 22. Mai 1997 lehnte die IV-Stelle für Versicherte im Ausland das Rentengesuch ab, mit der Begründung, bis zur Ausreise aus der Schweiz am 30. September 1994 sei keine anspruchsbegründende Invalidität eingetreten und danach wären die versicherungsmässigen Voraussetzungen nicht mehr erfüllt gewesen. Eine gegen diesen Entscheid erhobene Beschwerde wurde mit Verfügung der Eidgenössischen Rekurskommission der Alters-, Hinterlassenen- und Invalidenversicherung für die im Ausland wohnenden Personen vom 17. Juli 1997 als durch Rückzug erledigt erklärt.
B.- Am 30. Januar 1998 meldete sich H._ erneut zum Bezug einer Invalidenrente an. Die IV-Stelle Bern erhob bis in das Jahr 1981 zurückreichend eine ganze Anzahl medizinischer Rapporte, darunter eine Reihe von Berichten der behandelnden Ärzte Dres. med. S._, Spezialarzt FMH für Innere Medizin, besonders Herzkrankheiten und T._, Spezialarzt FMH für Neurologie aus sämtlichen Jahren von 1990 bis 1998 (mit Ausnahme von 1995). Des Weiteren zog sie Stellungnahmen und Berichte von Dr. med.
U._, Spezialarzt FMH für Innere Medizin, speziell Rheumaerkrankungen aus den Jahren 1990, 1993, 1997 und 1998 zu den Akten.
Die IV-Stelle beauftragte zudem das Departement Innere Medizin und die Psychiatrische Poliklinik des Spitals Q._ je mit der Erstellung eines Gutachtens. Im internmedizinischen Gutachten vom 10. Dezember 1998 nannten die Spitalärzte Dres. med. V._ und W._ als Diagnosen lumbospondylogenes Syndrom, Status nach zerebro-vaskulärem Insult mit Hemiparese links 1981, chronisch-koronare Herzkrankheit, Trombophilie bei partiellem Protein S-Mangel, Periarthritis humeroscapularis rechts und Innenohr-Schwerhörigkeit beidseits. Sie beurteilten die Arbeitsunfähigkeit als Bauarbeiter und als Magaziner als 100-prozentig.
Dem Untersuchten sei sowohl Stehen wie auch Sitzen jeweils nur für wenige Minuten möglich und anschliessend sei ein Lagewechsel oder sogar ein Hinlegen für einige Minuten notwendig. Die freie Gehstrecke auf ebenem Grund betrage lediglich einige hundert Meter und das gleichzeitige Tragen von Lasten über 5 Kilo sei nicht möglich.
Treppen bewältige er seit längerem nicht mehr. Eine entsprechende Tätigkeit sei realistischerweise nicht verfügbar.
Auf Grund des Aktenstudiums sei von einer relevanten Einschränkung der Arbeitsfähigkeit von mindestens 20 % seit der Abreise nach Spanien im September 1994 auszugehen.
Seither habe der Untersuchte aus medizinischen Gründen zu keinem Zeitpunkt mehr einer Arbeit nachgehen können. Im Gutachten der Psychiatrischen Poliklinik vom 7. Juni 1999 folgerten der Oberarzt Dr. med. Y._ und Frau Dr.
med. Z._, es bestehe keine psychiatrische oder psychosomatische Begleitdiagnose, welche einen nennenswerten Einfluss auf die Arbeitsfähigkeit habe. Sie schlossen sich der medizinischen Beurteilung durch das Departement Innere Medizin in vollem Umfang an und erachteten dem Untersuchten keine Arbeitstätigkeit mehr als zumutbar. Unter der Anamnese führten sie an, dieser sei seit 1994 als Folge der Angina pectoris und der chronischen Schmerzen voll arbeitsunfähig.
Im Vorbescheidverfahren brachte Fürsprecher Dr. iur.
Egloff als Rechtsvertreter von H._ vor, diesem sei schon 1993 eine Arbeit nur in sehr beschränktem Ausmass möglich gewesen. Zwar treffe es zu, dass er auch 1993 und 1994 bei der Firma X._ AG noch vollzeitig arbeitsfähig gewesen sei, doch sei dies nur mit stark reduziertem Rendement möglich gewesen. Bei der Aufgabe der Stelle habe nach dem Bericht von Dr. med. S._ (vom 26. Juni 1994) eine Einsatzfähigkeit von 60 - 70 % bestanden. Mit Verfügung vom 4. Januar 1998 wies die IV-Stelle Bern das Rentengesuch vom 30. Januar 1998 ab, weil bis zur Ausreise nach Spanien der Versicherungsfall nicht eingetreten sei, sondern offensichtlich in einem Zeitpunkt, in dem sich der Gesuchsteller im Ausland aufgehalten habe und er somit in der Schweiz nicht versichert gewesen sei. Damit seien die versicherungsmässigen Voraussetzungen für die Gewährung von Leistungen der Invalidenversicherung nicht erfüllt.
C.- Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 13. Juli 2001 ab.
D.- H._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben und es sei ihm eine ganze Invalidenrente seit wann rechtens zuzusprechen.
Während die IV-Stelle Bern auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Nach Art. 4 Abs. 1 IVG gilt als Invalidität die durch einen körperlichen oder geistigen Gesundheitsschaden als Folge von Geburtsgebrechen, Krankheit oder Unfall verursachte, voraussichtlich bleibende oder längere Zeit dauernde Erwerbsunfähigkeit.
b) Die Invalidität gilt als eingetreten, sobald sie die für die Begründung des Anspruchs auf die jeweilige Leistung erforderliche Art und Schwere erreicht hat (Art. 4 Abs. 2 IVG). Im Falle einer Rente gilt die Invalidität in dem Zeitpunkt als eingetreten, in dem der Anspruch nach Art. 29 Abs. 1 IVG entsteht, d.h. frühestens wenn der Versicherte mindestens zu 40 % bleibend erwerbsunfähig geworden ist (lit. a) oder während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40 % arbeitsunfähig gewesen war (lit. b; BGE 119 V 102 Erw. 4a).
Bei im Ausland wohnenden Personen gelten entsprechende Werte von 50 % (BGE 121 V 269 f. Erw. 5 und 6).
Der Zeitpunkt des Eintritts der Invalidität ist objektiv auf Grund des Gesundheitszustandes festzustellen; zufällige externe Faktoren sind unerheblich. Der Zeitpunkt des Invaliditätseintritts richtet sich insbesondere nicht danach, wann eine Anmeldung eingereicht oder von wann an eine Leistung gefordert wird. Er braucht auch nicht mit jenem Zeitpunkt identisch zu sein, in welchem die versicherte Person erstmals erfährt, dass ihr Gesundheitsschaden einen Leistungsanspruch zu begründen vermag (BGE 126 V 9 Erw. 2b, 160 Erw. 3a, 118 V 82 Erw. 3a mit Hinweisen).
2.- a) Nach Art. 2 des Abkommens zwischen der Schweizerischen Eidgenossenschaft und Spanien über Soziale Sicherheit vom 13. Oktober 1969 (AS 1970 S. 953) stehen die Staatsangehörigen der Vertragsstaaten in ihren Rechten und Pflichten aus den in Art. 1 genannten Rechtsvorschriften, zu welchen die schweizerische Bundesgesetzgebung über die Invalidenversicherung gehört, einander gleich, soweit im Abkommen selbst, in der Fassung des Zusatzabkommens vom 11. Juni 1982 (AS 1983 S. 1369), nichts anderes bestimmt ist. Bestimmungen, die hinsichtlich der Voraussetzungen des Anspruchs auf eine schweizerische Invalidenrente und der anwendbaren Verfahrensbestimmungen von dem in Art. 2 des Abkommens aufgestellten Grundsatz der Gleichstellung abweichen, finden sich weder im Abkommen selbst noch in den seitherigen schweizerisch-spanischen Vereinbarungen. Nach dem Gesagten bestimmt sich der Anspruch auf eine Rente der schweizerischen Invalidenversicherung allein auf Grund des internen schweizerischen Rechts.
b) Gestützt auf Art. 7a des Abkommens gelten für den Erwerb des Anspruch auf eine schweizerische Invalidenleistung spanische Staatsangehörige, die ihre Erwerbstätigkeit in der Schweiz infolge von Krankheit oder Unfall aufgeben müssen, deren Invalidität aber in diesem Land festgestellt wird, für die Dauer eines Jahres, gerechnet vom Zeitpunkt der Arbeitsunterbrechung mit nachfolgender Invalidität an, als Versicherte im Sinne der schweizerischen Gesetzgebung.
3.- a) Wie die Vorinstanz zu Recht erwogen hat, ist unbestritten, dass beim Beschwerdeführer eine Invalidität vorliegt. Streitig ist, ob ein Anspruch auf eine Rente der schweizerischen Invalidenversicherung besteht. Nach der Vorinstanz ist die Beurteilung der IV-Stelle Bern, wonach der Versicherungsfall des Beschwerdeführers während der Zeit eintrat, als dieser sich nicht mehr in der Schweiz befand, nicht zu beanstanden, wobei diese Frage infolge rechtskräftiger Beurteilung durch die IV-Stelle für Versicherte im Ausland ohnehin keiner erneuten gerichtlichen Überprüfung zugänglich sei. Dem ist entgegen zu halten, dass in dem durch Rückzug der Beschwerde erledigten ersten Gesuchsverfahren lediglich rechtskräftig festgestellt wurde, bis zur Ausreise aus der Schweiz am 30. September 1994 sei keine anspruchsbegründende Invalidität eingetreten, unter Hinzufügung des Hinweises, dass danach die versicherungsmässigen Voraussetzungen nicht mehr erfüllt gewesen wären. Wann der Versicherungsfall eintrat bzw. ob dies während des Auslandsaufenthalts der Fall war, ist damit noch nicht rechtskräftig entschieden und einer Überprüfung durch Verwaltung und Gericht zugänglich.
b) In den Akten ist indes der rechtserhebliche Sachverhalt noch nicht soweit vervollständigt und geklärt, dass nach dem erforderlichen Beweisgrad der überwiegenden Wahrscheinlichkeit entschieden werden kann, in welchem Zeitpunkt beim Beschwerdeführer der Versicherungsfall eintrat und ob er dann versichert war. Nach wie vor bestehen divergierende Aussagen der behandelnden und begutachtenden Ärzte zur Entwicklung der Arbeitsunfähigkeit. Auch ist der Zeitraum noch nicht ausreichend bestimmbar, während dem der schweizerische Wohnsitz vorübergehend aufgegeben worden war. Auf Grund der im vorliegenden Verfahren erhobenen Angaben ist vorerst nicht auszuschliessen, dass der Beschwerdeführer bereits vor der Abreise aus der Schweiz trotz vollem Arbeitspensum erheblich in seiner Arbeitsfähigkeit eingeschränkt war. Über die näheren Umstände der Entlassung aus dem langjährigen Arbeitsverhältnis bei der X._ AG ist bislang nur bekannt, dass sie im Rahmen einer Restrukturierung des Betriebes erfolgte. Nach der Erfahrung sind aber bei einem Stellenabbau die weniger Leistungsfähigen vom Arbeitsplatzverlust in erster Linie bedroht.
Es ist somit nicht ausgeschlossen, dass zwar für die Restrukturierung bei der Arbeitgeberin wirtschaftliche Gründe verantwortlich waren, dass aber dafür, dass gerade der Beschwerdeführer, der als Magaziner ja nicht eine spezialisierte Tätigkeit ausübte und damit allenfalls betriebsintern auch an einen anderen wenig qualifizierten Arbeitsplatz hätte versetzt werden können, von dieser Massnahme betroffen war, letztendlich gesundheitliche Gründe den Ausschlag gegeben haben. Damit stellt sich die bislang ungeprüfte Frage nach dem Bestehen einer Nachversicherung gemäss Art. 7a des Sozialversicherungsabkommens mit Spanien.
Spanischen Staatsangehörigen, die ihre Erwerbstätigkeit in der Schweiz infolge von Krankheit oder Unfall aufgeben müssen, haben immer einen Nachversicherungsschutz, und zwar ungeachtet dessen, ob die gesundheitliche Ursache für die Aufgabe der Erwerbstätigkeit offensichtlich ist oder ob sie allenfalls durch eine zeitlich mit dem Verlust der Arbeitsfähigkeit zusammenfallende Betriebsverkleinerung oder durch andere Umstände verschleiert wird.
c) Sollte die erwähnte Regelung nicht zur Anwendung gelangen, weil die dafür erforderlichen gesundheitlichen Voraussetzungen beim Beschwerdeführer nicht vorgelegen haben, ist auf Grund der heutigen Aktenlage nicht auszuschliessen, dass der Versicherungsfall während der Wohnsitznahme in Spanien gar nicht eingetreten ist. Aus dem Zeugnis des spanischen Arztes Dr. med. P._ vom 10. Dezember 1996 und den späteren Berichten der schweizerischen behandelnden Ärzten Dres. med. med. S._ (vom
21. April und 31. Juli 1998) und T._ (vom 18. März 1998) ergibt sich das Bild eines Gesundheitszustandes, der während der Auslandabwesenheit des Beschwerdeführers auf einem stabilen Niveau verharrte.
4.- Nicht zu prüfen ist im vorliegenden Verfahren die Frage, ob in dem Umstand, dass der Beschwerdeführer im ersten Gesuchsverfahren unqualifiziert vertreten war, allenfalls ein Revisionsgrund zu erblicken wäre. Auch ist es in das pflichtgemässe Ermessen der IV-Stelle Bern gestellt, ob sie im Rahmen der nun vorzunehmenden Neuüberprüfung des Leistungsanspruches die in Rechtskraft erwachsene Verfügung der IV-Stelle für Versicherte im Ausland vom 22. Mai 1997 auf Grund der nachträglich gewonnenen Erkenntnisse über den damals rechtserheblichen medizinischen und übrigen Sachverhalt in Wiedererwägung ziehen will.
Demnach erkennt das Eidg. Versicherungsgericht:
I. In Gutheissung der Verwaltungsgerichtsbeschwerde wird
der angefochtene Entscheid des Verwaltungsgerichts des
Kantons Bern, Sozialversicherungsrechtliche Abteilung,
vom 13. Juli 2001 aufgehoben und es wird die Sache an
die IV-Stelle Bern zurückgewiesen, damit sie im Sinne
der Erwägungen verfahre.
II. Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle Bern hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2500.- (einschliesslich
Mehrwertsteuer) zu bezahlen.
IV. Das Verwaltungsgericht des Kantons Bern wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses
zu befinden haben.
V. Dieses Urteil wird den Parteien, dem Verwaltungsgericht
des Kantons Bern, Sozialversicherungsrechtliche
Abteilung, der Ausgleichskasse des Kantons Bern und
dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 12. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: