Sachverhalt: A. Der A._ ist eine anerkannte Selbstregulierungsorganisation nach Art. 24 ff. GwG. Die Eidgenössische Finanzmarktaufsicht FINMA (nachfolgend: FINMA) informierte den A._ mit Schreiben vom 2. Oktober 2012 über ihre eingehende Prüfung des Reglements auf Abweichungen zur Verordnung der Eidgenössischen Finanzmarktaufsicht über die Verhinderung von Geldwäscherei und Terrorismusfinanzierung (Geldwäschereiverordnung-FINMA; SR 955.033.0) hin, empfahl ihm, das Reglement in 13 Punkten anzupassen und ersuchte ihn, innert Frist eine Stellungnahme oder eine aktualisierte Version des Reglements im Überarbeitungsmodus einzureichen. Der A._ teilte der FINMA mit, er werde einen Handlungsbedarf nach erfolgter Revision der Gesetzgebung über die Bekämpfung der Geldwäscherei prüfen, und legte seine Sichtweise dar. Mit Schreiben vom 31. Mai 2013 reduzierte die FINMA ihre Empfehlungen auf sieben, detailliert ausgeführte Punkte. Sie forderte den A._ auf, ihr das revidierte Reglement bis zum 15. Juli 2013 einzureichen. Ausserdem machte die FINMA den A._ darauf aufmerksam, dass sie verpflichtet sei, für die Wiederherstellung des ordnungsgemässen Zustandes zu sorgen, wenn ein Beaufsichtigter die Finanzmarktgesetzgebung missachte. Sie behielt sich eine Überweisung an den (FINMA-internen) Geschäftsbereich Enforcement ausdrücklich vor. B. Gegen dieses Schreiben der FINMA vom 31. Mai 2013 gelangte der A._ mit Beschwerde an das Bundesverwaltungsgericht. Das Verfahren wurde auf die Eintretensfrage reduziert. Mit Urteil vom 7. November 2013 trat das Bundesverwaltungsgericht auf die Beschwerde nicht ein, da es sich beim genannten Schreiben um keine Verfügung handle und damit kein taugliches Anfechtungsobjekt vorliege. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 12. Dezember 2013 ficht der A._ dieses Urteil beim Bundesgericht an. Er beantragt, das vorinstanzliche Urteil sei kostenfällig aufzuheben, und die Vorinstanz sei anzuweisen, auf die im vorinstanzlichen Verfahren eingereichte Beschwerde einzutreten. Der Beschwerde in öffentlich-rechtlichen Angelegenheiten sei die aufschiebende Wirkung zu erteilen und die FINMA sei anzuweisen, das während hängigem Beschwerdeverfahren vor Bundesverwaltungsgericht eingeleitete Enforcementverfahren zu sistieren. Die Vorinstanz hat auf die Einreichung einer Vernehmlassung verzichtet. Die FINMA schliesst auf Abweisung, soweit auf die Beschwerde eingetreten werden könne. Nach Anhörung der Parteien wies der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts das Gesuch um Erteilung der aufschiebenden Wirkung und um Anordnung von vorsorglichen Massnahmen ab.