Sachverhalt:
A.
A.a. Der 1952 geborene A._ meldete sich am 19. Mai 1998 zum Leistungsbezug bei der Invalidenversicherung an. Mit Verfügung vom 26. Oktober 1998 wies die IV-Stelle Bern das Leistungsbegehren ab (Invaliditätsgrad: 12 %).
A._ machte am 1. März 2007 erneut Leistungsansprüche gegenüber der Invalidenversicherung geltend. Die IV-Stelle veranlasste eine interdisziplinäre Begutachtung durch die Dres. med. B._, FMH Innere Medizin und Rheumaerkrankungen, und C._, Psychiatrie und Psychotherapie FMH (Expertisen vom 14. und 15. Februar 2008), und verneinte einen Rentenanspruch bei einem Invaliditätsgrad von 15 % mit Verfügung vom 28. Juli 2008. Das Verwaltungsgericht des Kantons Bern schützte die Verfügung (Entscheid vom 3. Juni 2009) ebenso wie letztinstanzlich das Bundesgericht (Urteil 9C_610/2009 vom 10. August 2009).
Am 17. September 2009 ersuchte A._ die IV-Stelle erneut um Prüfung seines Leistungsanspruchs. Diese gab bei Dr. med. C._ eine Nachbegutachtung in Auftrag (Expertise vom 29. Juni 2010 und Stellungnahme vom 19. Oktober 2010) und verneinte einen Rentenanspruch mit Verfügung vom 16. Dezember 2010 (Invaliditätsgrad: 29 %). Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 13. Juli 2011 ab. Das Bundesgericht trat auf die vom Versicherten eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht ein (Urteil 9C_596/2011 vom 15. September 2011).
Mit Eingabe vom 31. Mai 2012 machte A._ eine Verschlechterung des Gesundheitszustandes geltend und ersuchte um Prüfung des Rentenanspruchs, worauf die IV-Stelle nicht eintrat (Verfügung vom 23. August 2012).
A.b. Schliesslich machte der Versicherte am 16. November 2015 in Anlehnung an den Bericht des Dr. med. D._, Psychiatrie und Psychotherapie FMH, vom 5. Oktober 2015 wiederum eine Gesundheitsverschlechterung geltend, worauf die IV-Stelle nach durchgeführtem Vorbescheidverfahren nicht eintrat (Verfügung vom 3. Mai 2016).
B.
Die von A._ dagegen erhobenen Beschwerde wies das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, mit Entscheid vom 5. September 2016 ab.
C.
A._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der angefochtene Entscheid sei aufzuheben und die Sache an die IV-Stelle zurückzuweisen, damit sie auf das von ihm gestellte Leistungsbegehren eintrete. Eventuell sei der Entscheid vom 5. September 2016 aufzuheben, und die Akten seien an die IV-Stelle zurückzuweisen, damit sie weitere medizinische Abklärungen vornehme und hierauf einen neuen Eintretensentscheid fälle.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
2.
2.1. Streitig und zu prüfen ist, ob die Beschwerdegegnerin auf das Gesuch des Versicherten vom 16. November 2015 hätte eintreten müssen, was der angefochtene Entscheid verneint. Die für Verwaltung und Gericht geltenden Prüfungsobliegenheiten in Zusammenhang mit der Eintretensfrage bei Neuanmeldung (Art. 87 Abs. 3 i.V.m. Abs. 2 IVV; <ref-ruling> E. 5.3.1 S. 112) hat die Vorinstanz zutreffend dargelegt. Darauf wird verwiesen. Zu ergänzen ist Folgendes:
2.2. Mit dem Beweismass des Glaubhaftmachens sind herabgesetzte Anforderungen an den Beweis verbunden; die Tatsachenänderung muss nicht nach dem im Sozialversicherungsrecht sonst üblichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E. 5b S. 360) erstellt sein. Es genügt, dass für das Vorhandensein des geltend gemachten rechtserheblichen Sachumstandes wenigstens gewisse Anhaltspunkte bestehen, auch wenn durchaus noch mit der Möglichkeit zu rechnen ist, bei eingehender Abklärung werde sich die behauptete Änderung nicht erstellen lassen (Urteil 9C_226/2016 vom 31. August 2016 E. 3.2 mit Hinweis).
2.3. Ob eine anspruchserhebliche Änderung nach Art. 87 Abs. 3 i.V.m. Abs. 2 IVV glaubhaft gemacht ist, stellt eine vom Bundesgericht nur unter dem Blickwinkel von <ref-law> überprüfbare Tatfrage dar. Um eine Frage rechtlicher Natur handelt es sich hingegen, wenn zu beurteilen ist, wie hohe Anforderungen an das Glaubhaftmachen im Sinne von <ref-law> zu stellen sind (Urteil 9C_760/2014 vom 12. Januar 2015 E. 2.3 mit Hinweis).
3.
3.1. Das kantonale Gericht schützte das Nichteintreten der Verwaltung mit der Begründung, der Beschwerdeführer habe eine anspruchserhebliche Änderung seines Gesundheitszustandes im massgebenden Zeitraum zwischen den Verfügungen vom 16. Dezember 2010 und vom 3. Mai 2016 mit den Berichten des Dr. med. E._, Allgemeine Innere Medizin FMH, vom 24. September 2015 sowie des Dr. med. D._ vom 5. Oktober 2015 nicht glaubhaft dargelegt.
3.2. Der Beschwerdeführer lässt die Feststellung der Vorinstanz, die Beschwerdebilder und Diagnosen hätten sich nicht verschlechtert, unbestritten. Er macht jedoch geltend, seit der letzten Rentenüberprüfung habe er weitere fünf Jahre und vier Monate an einem Schmerzsyndrom gelitten. Die Chronifizierung sei nun dementsprechend fortgeschritten. Die Auffassung der Vorinstanz, es liege die identische chronifizierte Beschwerdesituation wie am 16. Dezember 2010 vor, sei willkürlich. Das kantonale Gericht gehe davon aus, das Therapiesetting werde in den aktenkundigen Arztberichten nicht weiter konkretisiert. Dieses wende bei dieser Feststellung jedoch ein falsches Beweismass im Sinne einer zu hohen Beweisanforderung an. Die von ihm in den letzten fünf Jahren in Anspruch genommenen Therapien, u.a. auch in der Klinik F._, hätten keine Besserung seines Gesundheitszustandes zur Folge gehabt.
4.
4.1.
4.1.1. Dem Beschwerdeführer ist darin beizupflichten, dass eine anspruchserhebliche Änderung auch gegeben sein kann, wenn sich ein Leiden - bei gleicher Diagnose - in seiner Intensität und in seinen Auswirkungen auf die Arbeitsfähigkeit verändert hat, wie dies etwa bei der Chronifizierung einer psychischen Störung zutreffen kann (Urteil 9C_286/2009 vom 28. Mai 2009 E. 3.2.2, in: SZS 2009 S. 397). Die Vorinstanz hat dies nicht verkannt. Sie ist in Würdigung der Akten zum Ergebnis gelangt, den Berichten der Dres. med. E._ und D._ lasse sich nicht ansatzweise entnehmen, inwieweit die Befundlage den Schluss auf die geltend gemachte weitere Intensivierung und Chronifizierung der Beschwerden im Vergleich zum Zustand am 16. Dezember 2010 zulasse.
4.1.2. Der Einwand des Beschwerdeführers, die Chronifizierung sei alleine schon aufgrund der Zeitdauer von fünf Jahren und vier Monaten seit der letzten Rentenüberprüfung weiter fortgeschritten, lässt die Schlussfolgerung der Vorinstanz, eine Veränderung des Gesundheitszustandes sei nicht glaubhaft gemacht, nicht als offensichtlich unrichtig oder sonstwie bundesrechtswidrig erscheinen (vgl. E. 1 hievor). Das kantonale Gericht stellte für das Bundesgericht verbindlich fest (vgl. E. 1 hievor), spätestens seit 2008 sei eine Chronifizierung der Schmerzproblematik aktenkundig (vgl. Bericht des Dr. med. D._ vom 3. September 2008). Dr. med. C._ habe im Gutachten vom 29. Juni 2010 ebenfalls auf chronifizierte Schmerzen hingewiesen. An der Verbindlichkeit dieser Annahme vermag der Verweis des Beschwerdeführers auf die Aussage des Dr. med. D._, wonach der Versicherte an einer verfestigten Schmerzentwicklung leide, nichts zu ändern. Denn damit kann der Beschwerdeführer keine Veränderung des Gesundheitszustandes glaubhaft machen. Vor diesem Hintergrund ist die vorinstanzliche Annahme, eine weitere Chronifizierung sei den Berichten nicht zu entnehmen, in keiner Weise willkürlich. Willkür liegt nicht schon dann vor, wenn eine andere Lösung ebenfalls in Betracht zu ziehen wäre, sondern erst, wenn die Beweiswürdigung offensichtlich unhaltbar ist (<ref-ruling> E. 2.1 S. 18 f. mit Hinweisen), was hier klar nicht zutrifft.
4.2. Dr. med. D._ hielt zu den vom Versicherten geltend gemachten, jedoch nicht näher beschriebenen Therapien einzig fest, diese hätten keine Verbesserung gebracht. Der Psychiater machte jedoch keine Angaben darüber, welche Therapien der Beschwerdeführer in Anspruch nahm. Ebenfalls bleibt aufgrund des pauschalen Hinweises, seit 2006 fänden Therapien statt, unklar, welche allfälligen Therapien überhaupt in den massgebenden Zeitraum vom 16. Dezember 2010 bis 3. Mai 2016 fallen. Die Vorinstanz nahm an, der Bericht des Dr. med. D._ ändere an der fehlenden Glaubhaftmachung einer Verschlechterung nichts, werde doch das Therapiesetting nicht weiter konkretisiert. Die Vorbringen des Beschwerdeführers lassen diese Feststellung des kantonalen Gerichts nach dem Gesagten weder als offensichtlich unrichtig noch sonstwie bundesrechtswidrig erscheinen (vgl. E. 1 hievor).
4.3. Soweit der Beschwerdeführer eventuell beantragt, die IV-Stelle habe weitere Angaben von ihm (z.B. zum Therapiesetting) nachzufordern, kann ihm nicht gefolgt werden. Das kantonale Gericht wies in diesem Punkt zu Recht darauf hin, dass es in erster Linie Sache der versicherten Person ist, substanzielle Ansatzpunkte aufzuzeigen, die eine neue Prüfung des Leistungsanspruchs allenfalls rechtfertigen (<ref-ruling> E. 5.2.5 S. 68 f.). Eine Verpflichtung der Beschwerdegegnerin zur Nachforderung weiterer Angaben besteht nur, wenn den - für sich allein genommen nicht Glaubhaftigkeit begründenden - Arztberichten konkrete Hinweise auf eine möglicherweise mittels weiterer Erhebungen erstellbare rechtserhebliche Änderung vorliegt (Urteil 8C_531/2013 vom 10. Juni 2014 E. 4.1.4 mit Hinweis auf das bereits zitierte Urteil 9C_286/2009 E. 2.2.3), was im vorliegenden Fall nicht zutrifft.
4.4. Zu prüfen bleibt, ob das kantonale Gericht in Bezug auf die Glaubhaftmachung einer Verschlechterung des Gesundheitszustandes von einem unrichtigen Beweismass im Sinne zu hoher Beweisanforderungen ausgegangen ist. Der Beschwerdeführer bejaht dies, weil dem Bericht von Dr. med. D._ genügend Anhaltspunkte zu entnehmen seien, dass sich der Gesundheitszustand verändert habe. Zwischen den Verfügungen vom 16. Dezember 2010 und vom 3. Mai 2016 liegen fünfeinhalb Jahre, weshalb an die Glaubhaftmachung nicht allzu hohe Anforderungen zu stellen sind (vgl. <ref-ruling> E. 6.2 S. 70). Da sich den im Rahmen der Neuanmeldung aufgelegten Berichten keine Anhaltspunkte für eine richtungweisende Verschlechterung des Gesundheitszustandes entnehmen lassen, hat die Vorinstanz mit Blick auf das vorne in Erwägung 2.2 aufgezeigte Beweismass keinen zu hohen Massstab an die Glaubhaftmachung im Sinne von Art. 87 Abs. 3 i.V.m. Abs. 2 IVV gestellt und kein Bundesrecht verletzt. Die Beschwerde ist unbegründet.
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. März 2017
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Die Gerichtsschreiberin: Huber