Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die Prüfungspflichten von Verwaltung und Gericht hinsichtlich des Eintretens auf ein erneutes Rentengesuch nach vorausgegangener rechtskräftiger Ablehnung (Art. 87 Abs. 1, 3 und 4 IVV; <ref-ruling> mit Hinweisen; AHI 1999 S. 84 Erw. 1a; SVR 1999 IV Nr. 21 S. 63) zutreffend dargelegt. Darauf wird verwiesen.
Zu ergänzen ist, dass nach dem Datum der angefochtenen Verfügung erstattete Arztberichte auch im Bereich des Neuanmeldungsverfahrens nach Art. 87 Abs. 3 und 4 IVV dann zu berücksichtigen sind, wenn sie Rückschlüsse auf die im Zeitpunkt des Verfügungserlasses bestehenden Verhältnisse erlauben (<ref-ruling> Erw. 1b, 99 V 102).
2.- a) Streitig und zu prüfen ist, ob glaubhaft gemacht ist, dass sich der Grad der Invalidität zwischen dem
27. November 1995 und dem 16. Mai 2001 in einer für den Anspruch erheblichen Weise geändert hat.
b) Grundlage der Verfügung vom 27. November 1995 war der Bericht des Dr. med. R._, Spezialarzt FMH für Neurochirurgie, vom 10. Juli 1995, wonach der Versicherte im erlernten Beruf als Metzger voll arbeitsunfähig, jedoch in der Tätigkeit als Magaziner bleibend zu 50 % arbeitsfähig war. In einer leichteren, rückenschonenden Tätigkeit mit abwechselnden Arbeitspositionen, vorwiegend ohne gebückte Haltung und ohne Heben von Lasten über 10-15 kg war er bei normalem Arbeitstempo voll arbeitsfähig.
Dr. med. H._, Innere Medizin FMH, führte im Bericht vom 23. Mai 2001 aus, im letzten Jahr hätten die lumbalen Rückenbeschwerden mit zeitweiser Ausstrahlung in das rechte Bein vor allem nach längerem Stehen zugenommen, sodass der Beschwerdeführer praktisch auf eine ständige medikamentöse Behandlung angewiesen sei. Wie bereits im Bericht des Dr. med. C._, Co-Chefarzt, Abteilung für Orthopädie und Traumatologie, Spital Y._, vom 8. März 2002 erwähnt worden sei, sei er in seinem ehemaligen Beruf als Lastwagenchauffeur zu 100 % arbeitsunfähig.
Im jetzigen Beruf als Magaziner sei eine halbtägige Arbeitsleistung (mit medikamentöser Unterstützung) zumutbar und hoffentlich auch aufrechtzuerhalten.
Damit steht fest, dass der Beschwerdeführer als Magaziner weiterhin zu 50 % arbeitsfähig ist. Dass er sich mit dieser Arbeit angesichts der Medikamenteneinnahme in einer für seine Gesundheit unzumutbaren Weise erwerblich einsetzen würde, kann auf Grund der Darlegungen des Dr. med.
H._ nicht gesagt werden.
Im Weiteren wird in keiner Weise dargetan, dass die von Dr. med. R._ am 23. Mai 2001 angegebene 100%ige Arbeitsfähigkeit in der von ihm umschriebenen angepassten Tätigkeit nicht mehr gegeben wäre.
Demnach ist eine anspruchsrelevante erhebliche Verschlechterung der Arbeitsfähigkeit und damit des Invaliditätsgrades nicht glaubhaft gemacht, weshalb es nicht zu beanstanden ist, dass die IV-Stelle auf die Neuanmeldung vom 22. März 2001 nicht eintrat.
c) An diesem Ergebnis vermögen die in der Verwaltungsgerichtsbeschwerde vorgebrachten Einwendungen nichts zu ändern. Soweit sich der Versicherte insbesondere auf den Bericht des Dr. med. B._, Röntgeninstitut Z._, vom 4. Dezember 2001 beruft, ist festzuhalten, dass daraus eine Verschlechterung der Arbeitsfähigkeit nicht hervorgeht.
3.- Da die Verwaltungsgerichtsbeschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach Art. 36a OG erledigt.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Kantons Bern und
dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 4. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Die Präsidentin der IV. Kammer:
Der Gerichtsschreiber: