Erwägungen:
1.
1.1. Das Departement Volkswirtschaft und Inneres des Kantons Aargau, Kantonspolizei, erliess am 28. Februar 2012 eine Verfügung betreffend definitive Beschlagnahmung von Waffen gegen A._. Nach Zustellung der Verfügung am 28. März 2013 erhob A._ Beschwerde beim Regierungsrat des Kantons Aargau. Dieser wies die Beschwerde am 14. Mai 2014 ab, soweit er darauf eintrat. Auf die dagegen erhobene Beschwerde trat das Verwaltungsgericht des Kantons Aargau mit Urteil vom 15. September 2015 wegen Verspätung nicht ein.
1.2. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 4. November 2015 an das Bundesgericht beantragt A._, das angefochtene Urteil aufzuheben und die Angelegenheit "mit verbindlichen Weisungen zwecks materieller Neubeurteilung" an das Verwaltungsgericht zurückzuweisen.
2.
2.1. Nach den für das Bundesgericht grundsätzlich verbindlichen Feststellungen der Vorinstanz (vgl. Art. 105 Abs. 1 und 2 BGG) wurde der Entscheid des Regierungsrates vom 14. Mai 2014 dem Beschwerdeführer am 26. Mai 2014 zugestellt bzw. von seinem (nicht anwaltlichen) Vertreter in Empfang genommen. Der in Schweden wohnhafte Beschwerdeführer übergab die von ihm selbst verfasste, am 24. Juni 2014 datierte Beschwerde am 26. Juni 2014 der norwegischen Post. Am 27. Juni 2014 gelangte die Sendung in die Schweiz. Nach Eingang der Beschwerde verlangte die Vorinstanz die Bezahlung eines Kostenvorschusses und führte den Schriftenwechsel durch. Am 14. April 2015 teilte sie dem Beschwerdeführer mit, sie habe festgestellt, dass die 30-tägige Beschwerdefrist nicht eingehalten sei, und gewährte ihm Frist zur Stellungnahme. Nachdem der Beschwerdeführer mitgeteilt hatte, er lasse sich nun durch Rechtsanwalt Noam Shambicco vertreten, reichte er innert erstreckter Frist eine Stellungnahme ein. Darin rügte er eine unzulässige Zustellung an seinen vormaligen Vertreter, eine Verletzung des Verbots des überspitzten Formalismus sowie eine Verletzung des Grundsatzes von Treu und Glauben.
2.2. Die Vorinstanz hat schlüssig dargelegt, dass die Zustellung an den vormaligen Vertreter des Beschwerdeführers in der Schweiz am 26. Mai 2014 rechtsgültig erfolgt ist; es kann darauf verwiesen werden. Davon ausgehend, hat die Vorinstanz gestützt auf § 44 Abs. 1 des Verwaltungsrechtspflegegesetzes des Kantons Aargau vom 4. Dezember 2007 (VRPG/AG; SAR 271.200) sowie <ref-law> (SR 272) und <ref-law> korrekt erwogen, dass die Frist zur Einreichung der Beschwerde am 27. Mai 2014 zu laufen begonnen und am 25. Juni 2014 geendet hat. Aufgrund der Angabe der Schweizerischen Post, wonach die Postsendung am 27. Mai 2014, mithin zwei Tage nach Ablauf der Frist, in den Herrschaftsbereich der Schweiz gelangt ist, ergab sich der zwingende Schluss, dass die Beschwerde verspätet eingereicht worden ist. Dies stellt auch der Beschwerdeführer nicht ernsthaft in Frage.
2.3. Sodann verneinte die Vorinstanz eine Verletzung des Verbots des überspitzten Formalismus mit der zutreffenden Begründung, dass gesetzliche Fristen aus Gründen der Rechtssicherheit strikt anzuwenden seien. Sie verweist zu Recht auf die Gerichtspraxis, wonach nicht jede prozessuale Formstrenge mit <ref-law> im Widerspruch steht, sondern überspitzter Formalismus nur gegeben ist, wenn die strikte Anwendung der Formvorschriften durch keine schutzwürdigen Interessen gerechtfertigt ist, zum blossen Selbstzweck wird und die Verwirklichung des materiellen Rechts in unhaltbarer Weise erschwert oder verhindert (vgl. <ref-ruling> E. 5 S. 253). Bei einer gesetzlichen Beschwerdefrist von 30 Tagen, welche in der Rechtsmittelbelehrung angegeben worden ist, ist die Formstrenge sachlich gerechtfertigt; der Rechtsweg wird dadurch nicht in unzulässiger Weise versperrt. Für den Fall, dass eine rechtsuchende Person eine Frist unverschuldet nicht einhalten konnte, steht das Institut der Fristwiederherstellung zur Verfügung, worauf die Vorinstanz ebenfalls hinweist. Anhaltspunkte dafür, dass dem Beschwerdeführer das rechtzeitige Einreichen der Beschwerde nicht möglich gewesen wäre, lagen indessen nicht vor und wurden auch nicht geltend gemacht.
2.4. Hinsichtlich des (wiederum bereits im vorinstanzlichen Verfahren geltend gemachten) Vertrauensschutzes räumte die Vorinstanz ein, es beruhe auf einem Versehen, dass die Eintretensvoraussetzungen nicht schon in einem früheren Zeitpunkt geprüft worden seien. Sie erwog, dies ändere nichts daran, dass die Beschwerde verspätet eingereicht worden sei, trug aber dem Umstand, dass ein Schriftenwechsel durchgeführt worden war und bis zur Entdeckung des Versehens neun Monate verstrichen waren, durch eine um die Hälfte reduzierte Gerichtsgebühr Rechnung.
Der Beschwerdeführer macht vor Bundesgericht erneut geltend, er sei in seinem berechtigten Vertrauen darauf, dass die Eintretensvoraussetzungen erfüllt seien, zu schützen. Er verkennt, dass er die Frist unabhängig von der (zweifellos unglücklichen) Verfahrensgestaltung der Vorinstanz verpasst hat. Die Verfahrenshandlungen, zu denen er im Lauf des Beschwerdeverfahrens aufgefordert wurde, hatten keinen Einfluss auf die Einhaltung der Frist. Weil das Verhalten der Vorinstanz nicht in einem Kausalzusammenhang zur verspäteten Einreichung der Beschwerde steht, stellt sich die Frage des Vertrauensschutzes nicht: Ein Nichteintretensentscheid hätte ohnehin gefällt werden müssen, unabhängig von der Verfahrensgestaltung. Anders wäre es nur, wenn der Beschwerdeführer wegen des Verhaltens der Behörde die Frist verpasst hätte, wobei auch die übrigen Voraussetzungen des Vertrauensschutzes (vgl. <ref-ruling> E. 3.1 S. 164) vorliegen müssten. Zu Recht hat die Vorinstanz den Vertrauensschutz verneint und dem Beschwerdeführer jene Verfahrenskosten erlassen, die ohne dessen Zutun entstanden sind.
2.5. Schliesslich moniert der Beschwerdeführer, die Rechtsmittelbelehrung des Entscheids des Regierungsrates habe keinen Hinweis auf § 28 Abs. 1 VRPG/AG und <ref-law> enthalten. Er als juristischer Laie habe nicht wissen können, dass diese Bestimmungen anwendbar seien. Gemäss § 22 der Verfassung des Kantons Aargau vom 25. Juni 1980 (SAR 110.000) dürften Unbeholfene in Verfahren nicht benachteiligt werden.
Die hier einschlägige Ziff. 1 der Rechtsmittelbelehrung des Regierungsrates enthält die Information, dass gegen den Entscheid innert einer nicht erstreckbaren Frist von 30 Tagen seit Zustellung beim Verwaltungsgericht (Angabe der Adresse) Beschwerde geführt werden könne. Danach folgen Angaben zum Fristenstillstand an Ostern, im Sommer und zu Weihnachten.
Art. 28 Abs. 1 VRPG/AG verweist für die Berechnung der Fristen, deren Unterbruch und die Wiederherstellung gegen die Folgen der Säumnis auf die ZPO. Die entsprechenden Bestimmungen sind somit als kantonales öffentliches Recht massgeblich. In der Tat enthält die Rechtsmittelbelehrung nicht die Vorschrift nach <ref-law>, wonach Eingaben spätestens am letzten Tag der Frist beim Gericht eingereicht oder zu dessen Handen der Schweizerischen Post oder einer schweizerischen diplomatischen oder konsularischen Vertretung übergeben werden müssen. Es wird lediglich auf den Beginn, die Dauer und die fehlende Erstreckbarkeit der Frist hingewiesen. Indessen hat der Beschwerdeführer seine Beschwerde erst am 26. Juni 2014 der norwegischen Post übergeben, mithin einen Tag nach Ablauf der Frist am 25. Juni 2014 (vgl. E. 2.1). Somit wäre die Beschwerde auch dann verspätet, wenn das Datum der Postaufgabe im Ausland massgeblich wäre. Der Mangel bleibt daher ohne Einfluss auf das Ergebnis, so dass der Beschwerdeführer nichts zu seinen Gunsten daraus ableiten kann. Ob er darauf hätte vertrauen dürfen, dass die Postaufgabe im Ausland am letzten Tag der Frist genügen würde (vgl. zum Vertrauensschutz im Zusammenhang mit einer fehlerhaften Rechtsmittelbelehrung <ref-ruling> E. 8.3.2 S. 53 f.), kann offen bleiben.
3.
Die offensichtlich unbegründete Beschwerde ist im Verfahren nach <ref-law> abzuweisen. Der unterliegende Beschwerdeführer trägt die Gerichtskosten (<ref-law>). Ausgangsgemäss besteht kein Anspruch auf Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Aargau, 3. Kammer, und dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
Lausanne, 2. März 2016
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner