Sachverhalt:
A.
Am 19. Januar 2007 erhielt A._ die gastgewerbliche Betriebsbewilligung für die B._ in U._. Die Schaffhauser Polizei nahm auf Anordnung der Staatsanwaltschaft des Kantons Schaffhausen am 25. April 2013 eine Hausdurchsuchung in der B._ wegen Verdachts der Widerhandlung gegen das Betäubungsmittelgesetz vor. Dabei wurde in einem unverschlossenen Nebenraum eine Aktentasche gefunden, worin sich eine Pistole des Typus *** befand, die sichergestellt wurde. Mit rechtskräftigem Strafbefehl vom 19. Juli 2013 verurteilte die Staatsanwaltschaft A._ wegen nicht sorgfältigen Aufbewahrens einer Pistole zu einer Busse von Fr. 400.--.
B.
Am 29. April 2013 entzog ihm das Departement des Innern des Kantons Schaffhausen die Betriebsbewilligung für die B._; der Betrieb wurde mit sofortiger Wirkung geschlossen. A._ wurde sodann wegen Duldung von Verstössen gegen die Betäubungsmittelgesetzgebung in seinem Betrieb mit Fr. 300.-- gebüsst.
C.
Am 30. April 2015 verfügte die Schaffhauser Polizei folgendes:
1. Die beschlagnahmte und bei der Schaffhauser Polizei, Fachstelle Waffen, aufbewahrte Pistole ***, Nr. *** wird definitiv eingezogen.
2. A._ wird verpflichtet, allenfalls noch in seinem Besitz befindliche Waffen, wesentliche und besonders konstruierte Waffenbestandteile, Waffenzubehör, Munition und Munitionsbestandteile innert 20Tagen nach erfolgter Mitteilung dieser Verfügung der Schaffhauser Polizei, Fachstelle Waffen - nach telefonischer Voranmeldung - abzugeben. Sollte A._ keine solchen Gegenstände mehr besitzen, so hat er dies innert gleicher Frist gegenüber der Schaffhauser Polizei, Fachstelle Waffen unterschriftlich zu bestätigen oder bei der vorgenannten Stelle mündlich zu Protokoll zu geben.
3. A._ wird mit sofortiger Wirkung und bis auf Weiteres untersagt, Waffen, wesentliche und besonders konstruierte Waffenbestandteile, Waffenzubehör, Munition und Munitionsbestandteile zu erwerben bzw. zu besitzen. Als Erwerb gilt namentlich Kauf, Tausch, Schenkung, Erbschaft, Miete oder Gebrauchsleihe.
4. Zuwiderhandlungen gegen die Anordnungen nach Ziffern 2 und 3 dieser Verfügung werden gemäss Art. 292StGB wegen Ungehorsams gegen amtliche Verfügungen mit Busse bestraft.
5. Einem allfälligen Rekurs gegen diese Verfügung wird betreffend die Anordnungen gemäss Ziffern 2 und 3 die aufschiebende Wirkung entzogen.
6. Die Pistole ***, Nr. *** wird durch die Schaffhauser Polizei veräussert, sollte A._ nicht innert 90 Tagen nach Eintritt der Rechtskraft dieser Verfügung eine zum Erwerb berechtigte Person vorbringen, welcher die Pistole zu übertragen ist.
7. Das bei der Schaffhauser Polizei, Fachstelle Waffen aufbewahrte Pistolenfutteral (Ord. 49) ist A._ auf Verlangen nach erfolgter Mitteilung dieser Verfügung gegen Empfangsbescheinigung auszuhändigen. Sollte der Verfügungsadressat diesen Gegenstand nicht innert 90Tagen nach Eintritt der Rechtskraft dieser Verfügung bei der vorgenannten Stelle abgeholt oder (mit der Pistole) an eine berechtigte Person übertragen haben, so wird das Futteral durch die Schaffhauser Polizei gemeinsam mit der eingezogenen Pistole veräussert.
8. Die Verfahrenskosten, bestehend aus Fr. 500.-- Staatsgebühr, sowie die Kosten für die Aufbewahrung der Pistole in Höhe von Fr. 200.-- werden A._ auferlegt.
9. Der Totalbetrag von Fr. 700.-- wird von einem allfällig erzielten Erlös in Abzug gebracht bzw. nach erfolgter Übertragung der Pistole an eine berechtigte Person von der Inkassostelle der Schaffhauser Polizei in Rechnung gestellt.
D.
Ein am 1. Juni 2015 an den Regierungsrat des Kantons Schaffhausen erhobener Rekurs von A._ blieb erfolglos (Entscheid vom 24. November 2015). Das Obergericht des Kantons Schaffhausen hiess mit Urteil vom 13. November 2018 eine dagegen erhobene Beschwerde von A._ teilweise gut und hob den Entscheid vom 24. November 2015 insoweit auf, als damit Ziff. 3 der Verfügung der Schaffhauser Polizei vom 30. April 2018 (Verbot des Waffenerwerbs und Waffenbesitzes "bis auf weiteres" durch den Beschwerdeführer) bestätigt und dafür Kosten auferlegt wurden. Im Übrigen wies das Obergericht die Beschwerde ab.
E.
A._ erhebt mit Eingabe vom 4. Januar 2019 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht mit folgenden Anträgen:
"1. Es sei Ziff. 1 Abs. 2 des Entscheids des Obergerichtes des Kantons Schaffhausen vom 13. November 2018 im Verfahren Nr. 60/2015/47 und damit gleichzeitig auch die Ziff. 1. [Einzug Pistole], 2. [Herausgabe weiterer Waffen bzw. Abgabe einer gegenteiligen Bestätigung] und 4. [Bewehrung dieser Herausgabeverpflichtung mit der Strafdrohung von <ref-law>] der Verfügung der Schaffhauser Polizei vom 30. April 2015 sowie Ziff. 2 des Beschlusses des Regierungsrates des Kantons Schaffhausen vom 24. November 2015 aufzuheben, und es sei die Schaffhauser Polizei anzuweisen, die beschlagnahmte, bei ihrer Fachstelle Waffen aufbewahrte Pistole ***, Nr. ***, an den Beschwerdeführer herauszugeben.
2. Es sei Ziff. 2 des Entscheids des Obergerichtes des Kantons Schaffhausen vom 13. November 2018 im Verfahren Nr. 60/2015/47 aufzuheben, und es seien sämtliche Verfahrenskosten für das kantonale Verfahren der Staatskasse des Kantons Schaffhausen zu überbinden.
3. Es sei Ziff. 3 des Entscheids des Obergerichtes des Kantons Schaffhausen vom 13. November 2018 im Verfahren Nr. 60/2015/47 teilweise aufzuheben, und der Kanton Schaffhausen zu verpflichten, den Beschwerdeführer mit total Fr. 3'000.-- zu entschädigen,
4. Eventualiter: Es seien Dispo Ziff. 1 Abs. 2, Ziff. 2 und Ziff 3 des Entscheids des Obergerichtes des Kantons Schaffhausen vom 13. November 2018 im Verfahren Nr. 60/2015/47 teilweise aufzuheben und die Sache zur Neubeurteilung an das Obergericht des Kantons Schaffhausen zurückzuweisen."
Das Obergericht des Kantons Schaffhausen sowie das Eidgenössische Justiz- und Polizeidepartement verzichten auf eine Stellungnahme. Der Regierungsrat des Kantons Schaffhausen beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei.

Erwägungen:
1.
Angefochten ist das letztinstanzliche, verfahrensabschliessende Urteil eines kantonalen oberen Gerichts in einer Angelegenheit des öffentlichen Rechts, in der die ordentliche Beschwerde an das Bundesgericht zulässig ist (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 90 BGG). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und obsiegte dort nur teilweise. Er ist durch den angefochtenen Entscheid besonders berührt und verfügt über ein schutzwürdiges Interesse an dessen Aufhebung (<ref-law>). Auf das im Übrigen frist- und - unter Vorbehalt einer in allen Punkten rechtsgenüglichen Begründung - formgerecht eingereichte Rechtsmittel (Art. 42 Abs. 1 und Abs. 2, <ref-law>) ist einzutreten.
2.
2.1. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere die Verletzung von Bundes- und Völkerrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es im Rahmen der allgemeinen Begründungspflicht (<ref-law>) nur die geltend gemachten Rügen, sofern die rechtlichen Mängel des angefochtenen Entscheids nicht offensichtlich sind (<ref-ruling> E. 2 S. 116). Die Verletzung von Grundrechten prüft das Bundesgericht nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (qualifizierte Rügepflicht gemäss <ref-law>: vgl. <ref-ruling> E. 1.6 S. 280 f.; <ref-ruling> E. 2.5 S. 314).
2.2. Seinem Urteil legt das Bundesgericht den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Von Amtes wegen oder auf ausreichend begründete Rüge hin (vgl. zu den Anforderungen an Sachverhaltsrügen <ref-ruling> E. 9.2.3.6 S. 96; <ref-ruling> E. 1.4.3 S. 254 f.; Urteil 2C_8/2016 vom 17. Oktober 2016 E. 2.2 [nicht publ. in: <ref-ruling>]) korrigiert das Bundesgericht die vorinstanzlichen Sachverhaltsfeststellungen, wenn diese offensichtlich unrichtig sind oder sie auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Die Behebung des Mangels erfolgt nur, sofern er für den Ausgang des Verfahrens entscheidend sein kann (vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG; BGE <ref-ruling> E. 2.4 S. 313 f.).
3.
Streitgegenstand ist die definitive Einziehung der beschlagnahmten Pistole des Beschwerdeführers sowie die Abgabe allfälliger weiterer sich in dessen Besitz befindlicher Waffen gestützt auf Art. 31 Abs. 3 lit a i. V. m. Art. 8 Abs. 2 lit. c des Bundesgesetzes vom 20. Juni 1997 über Waffen, Waffenzubehör und Munition [Waffengesetz, WG; SR 514.54]).
4.
4.1. Wer eine Waffe oder einen wesentlichen Waffenbestandteil erwerben will, benötigt einen Waffenerwerbsschein (<ref-law>). Keinen Waffenerwerbsschein erhalten Personen, die zur Annahme Anlass geben, dass sie sich selbst oder Dritte mit der Waffe gefährden (<ref-law>). <ref-law> regelt die Beschlagnahme und die Entziehung einer Waffe. Nach Abs. 1 lit. b dieser Bestimmung werden Waffen, wesentliche Waffenbestandteile, Waffenzubehör, Munition und Munitionsbestandteile aus dem Besitz einer Person beschlagnahmt, bei der ein Hinderungsgrund nach <ref-law> besteht. Wenn die Gefahr einer zukünftigen missbräuchlichen Verwendung fortbesteht (vgl. Urteil 2C_1163/2014 vom 18. Mai 2015 E. 3.3), werden die beschlagnahmten Gegenstände definitiv eingezogen (<ref-law>).
4.2. Gemäss der Rechtsprechung des Bundesgerichts setzt die Einziehbarkeit einer Waffe voraus, dass die Voraussetzungen für eine Beschlagnahme erfüllt sind (vgl. Urteil 2A.546/2004 vom 4. Februar 2005, E. 3.2.2). Im Unterschied zur Beschlagnahme, die vorab präventiven, gegebenenfalls provisorischen Charakter hat, ist die Einziehung endgültig (vgl. Urteil 2A.294/2003 vom 17. Juni 2004 E. 3.2 mit Hinweisen). Sowohl bei der Beschlagnahme als auch der Einziehung handelt es sich um eigenständige, von der Strafuntersuchung bzw. -verfolgung unabhängige Massnahmen (Urteil 2A.358/2000 vom 30. März 2001 E. 5b).
4.3. Die Vorinstanz hat die Einziehung der Pistole des Beschwerdeführers damit gerechtfertigt, dass eine Gefahr ihrer missbräuchlichen Verwendung (<ref-law>) aufgrund einer Selbst- bzw. Drittgefährdung (<ref-law>) bestehe. Bei den Tatbestandselementen der Selbst- oder Drittgefährdung gemäss <ref-law> handelt es sich um unbestimmte (Bundes-) Rechtsbegriffe. Deren Anwendung prüft das Bundesgericht frei (<ref-law>).
4.4. Unstreitig handelt es sich bei der beschlagnahmten Pistole um eine Waffe im Sinne von <ref-law>, die somit unter anderem bezüglich ihres Erwerbs und Besitzes dem Waffengesetz unterliegt (vgl. <ref-law>). Dieses Gesetz hat entsprechend dem verfassungsrechtlichen Auftrag nach <ref-law> zum Zweck, die missbräuchliche Verwendung von Waffen zu bekämpfen (vgl. Urteile 2C_158/2011 vom 29. September 2011 E. 3.1). Voraussetzung für den Besitz einer Waffe ist ihr rechtmässiger Erwerb (<ref-law>), welcher voraussetzt, dass keine Verweigerungsgründe gemäss <ref-law> bestehen. Gemäss der Rechtsprechung des Bundesgerichts müssen Personen, die Waffen besitzen wollen, mit Blick auf die erhöhten Gefahren, die von diesen Gegenständen ausgehen, besonders zuverlässig sein (vgl. Urteile 2C_1271/2012 vom 6. Mai 2013 E. 3.2; 2C_158/2011 vom 29. September 2011 E. 3.5). Das ist namentlich nicht der Fall bei Personen, die an einer psychischen oder geistigen Erkrankung leiden, alkoholabhängig sind oder suizidale Tendenzen aufweisen (vgl. Urteile 2C_1163/2014 vom 18. Mai 2015 E. 3.3; 2C_469/2010 vom 11. Oktober 2010 E. 3.6).
4.5. Ob Anlass zur Annahme einer Selbst- oder Drittgefährdung im Sinne von <ref-law> besteht, ist entscheidend nach dem Verhalten der betroffenen Person insgesamt und unter Würdigung aller relevanter Umstände zu beurteilen (vgl. Urteile 2C_1163/2014 vom 18. Mai 2015 E. 3.3; 2C_469/2010 vom 11. Oktober 2010 E. 3.6; 2A.546/2004 vom 4. Februar 2005 E. 3.1). Dabei hat die zuständige Behörde eine Prognose zum Risiko einer missbräuchlichen Verwendung der Waffe zu treffen (vgl. Urteile 2C_1163/2014 vom 18. Mai 2015 E. 3.3; 2C_469/2010 vom 11. Oktober 2010 E. 3.6; 2A.546/2004 vom 4. Februar 2005 E. 3.2.2). Bei dieser Einschätzung besteht ein gewisser Ermessensspielraum (vgl. Urteil 2C_1163/2014 vom 18. Mai 2015 E. 3.4).
4.6. Die Vorinstanz hat das Vorliegen der Gefahr einer missbräuchlichen Verwendung der Waffe durch den Beschwerdeführer vornehmlich darauf abgestützt, dass der Beschwerdeführer keine Gewähr dafür biete, dass die Pistole künftig sicher aufbewahrt und deshalb keinem Unberechtigten in die Hände falle. Sie stützte sich dabei insbesondere auf die Tatsache, dass der Beschwerdeführer sowohl wegen eines Verstosses wegen unvorsichtiger Verwahrung einer Waffe als auch wegen der Duldung des Konsums von Drogen in der von ihm geführten Bar verurteilt worden war. In Übereinstimmung mit den vorangehenden Instanzen ging sie davon aus, dass es aufgrund der konkreten Umstände als naheliegend zu betrachten sei, dass der Raum, in dem sich die Pistole befand, von Personen mit einem kriminellen Hintergrund hättte betreten werden und diese beim Auffinden einer Tasche deren Inhalt überprüfen und die Waffe hätten finden können. Die vorangehenden Instanzen hätten insofern zu Recht eine missbräuchliche Verwendung der Waffe nicht ausschliessen können.
4.7.
4.7.1. Diese Begründung greift zu kurz. Zu Recht rügt der Beschwerdeführer, dass die Vorinstanz von einem rein theoretischen, statistisch kaum relevanten hypothetischen Kausalverlauf ausgegangen ist. Die Vorinstanz hat zu wenig die Tatsache berücksichtigt, dass die Waffe gut verpackt, ohne Munition aufbewahrt und die Waffe in einem nicht für die Öffentlichkeit bestimmten Nebenraum gelagert wurde. Die rein theoretische Gefahr, dass ein Besucher der Bar zufällig den Nebenraum hätte betreten können und dort die (ungeladene) sich in einer Aktentasche in einem Karton befindliche Pistole hätte entnehmen und damit jemand hätte bedrohen können, ist unzureichend, um ohne weiteren Anhaltspunkte anzunehmen, dass dies Anlass zu einer Drittgefährdung im Sinne von <ref-law> gebe.
4.7.2. Gemäss der Rechtsprechung des Bundesgerichts muss eine überwiegende Wahrscheinlichkeit bestehen, dass der Waffenträger eine Waffe in einer gefährlichen Art gegenüber sich selbst oder anderen verwendet (Urteil 2C_93/2007 vom 3. September 2007 E. 5.2). Wie dies insbesondere der zweite Halbsatz von <ref-law> verdeutlicht, liegt die Gefahr missbräuchlicher Waffenverwendung insbesondere dann vor, wenn sich der Waffenträger in einem körperlichen oder geistigen Zustand befindet, der ein erhöhtes Risiko für den Umgang von Waffen darstellt. Hierfür bestehen aber in den Akten keine Hinweise, weshalb es sich auch nicht aufdrängt, solches abzuklären und ein psychiatrisches Gutachten in Auftrag zu geben.
4.7.3. Die Vorinstanz nimmt zwar zu Recht Bezug auf die gegen den Beschwerdeführer verhängten Strafurteile, es ergibt sich aber aus den vorinstanzlichen Erwägungen nicht, inwiefern das ihm im Rahmen dieser Verfahren vorgeworfene Verhalten das Risiko einer Drittgefährdung durch eine Waffe nahelegen würde.
4.7.4. Soweit der Beschwerdeführer darüber hinaus beanstandet, dass die Vorinstanzen keine fundierte Prognose hinsichtlich des Risikos einer solch missbräuchlichen Verwendung der Pistole in der Zukunft erstellt haben, ist sein Einwand ebenfalls begründet. Aufgrund der Verurteilung wegen unsorgfältiger Verwahrung der Pistole bzw. der Duldung des Konsums von Drogen kann nicht ohne weitere Begründung auf eine fehlende Gewähr für eine künftige gesetzmässige Verwendung der Waffe durch den Beschwerdeführer geschlossen werden. Mangels weiterer Anhaltspunkte sind die Voraussetzungen für die Entziehung der Waffe des Beschwerdefühers insofern nicht erfüllt.
5.
Der Beschwerdeführer rügt sodann, dass die unter Strafandrohung erteilte Aufforderung, allenfalls weitere in seinem Besitz befindliche Waffen usw. abzugeben, bzw. für den Fall, dass keine solchen Gegenstände mehr in seinem Besitz sein sollten, dies schriftlich zu bestätigen bzw. mündlich zu Protokoll zu geben, gegen <ref-law> verstosse.
Auch diese Rüge erweist sich als begründet. Insoweit schon die Voraussetzungen für die Entziehung der Waffe des Beschwerdefühers nicht gegeben sind, besteht auch kein Grund zur Anordnung der Herausgabe weiterer sich möglicherweise in seinem Besitz befindlicher Waffen bzw. der Abgabe einer Erklärung, nicht im Besitze solcher zu sein.
6.
Dem Verfahrensausgang entsprechend sind keine Kosten geschuldet (<ref-law>). Der Kanton Schaffhausen muss den Beschwerdeführer für seinen Aufwand vor Bundesgericht indessen angemessen entschädigen (Art. 68 Abs. 1 und 2 BGG). Das Obergericht des Kantons Schaffhausen wird über die Kosten der kantonalen Verfahren neu zu entscheiden haben (vgl. Art. 67 und Art. 68 Abs. 5 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird gutgeheissen. Das Urteil des Obergericht des Kantons Schaffhausen vom 13. November 2018 (60/2015/247) wird aufgehoben.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Schaffhausen hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten des kantonalen Verfahrens an das Obergericht des Kantons Schaffhausen zurückgewiesen.
5.
Dieses Urteil wird den Verfahrensbeteiligten, dem Obergericht des Kantons Schaffhausen und dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
Lausanne, 26. Juli 2019
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: De Sépibus