Sachverhalt:
A.
A.a. Mit Verfügung vom 15. August 1994 sprach die IV-Stelle des Kantons Solothurn dem verheirateten, 1954 geborenen A._ eine halbe Invalidenrente nebst Zusatzrente für die Ehefrau sowie Kinderrente zu. Die Ehe von A._ wurde mit Urteil vom 24. Juni 1998, welches am 7. Juli 1998 in Rechtskraft erwachsen war, geschieden. Der Versicherte teilte der IV-Stelle die Scheidung mit Schreiben vom 14. Juli 1998 mit und liess ihr in der Folge auch das Urteil zukommen. Die IV-Stelle leitete dieses am 30. Juli 1998 "zur Kenntnisnahme und zur direkten Erledigung" an die Ausgleichskasse des Kantons Solothurn weiter.
A.b. Im Zuge eines Zivilstandsabgleichs liess das Bundesamt für Sozialversicherungen (BSV) der IV-Stelle am 14. Juni 2013 eine Liste von Personen zukommen, deren Personendaten widersprüchlich waren und auf welcher auch A._ vermerkt war. Mit Verfügung vom 9. September 2014 hielt die IV-Stelle fest, auf Grund der Ehescheidung müsse ein Splitting durchgeführt und die Rentenhöhe rückwirkend auf fünf Jahre, d.h. ab 1. September 2009, neu berechnet werden. Aufgrund dieser Berechnung falle die Invalidenrente tiefer aus und müsse A._ den Differenzbetrag zwischen den ausgerichteten und den tatsächlich geschuldeten tieferen Rentenbeträgen von Fr. 3'384.- zurückerstatten.
B.
Die hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 21. Juli 2015 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, es seien der Entscheid des Versicherungsgerichts des Kantons Solothurn vom 21. Juli 2015 sowie die Verfügung der IV-Stelle vom 9. September 2014 bezüglich Rückforderung von unrechtmässig bezogenen Leistungen im Umfang von Fr. 3'384.- aufzuheben. Zudem ersucht er um Erteilung der aufschiebenden Wirkung.
Die IV-Stelle und das BSV verzichten auf eine Vernehmlassung.
D.
Mit Verfügung vom 16. November 2015 hat der Instruktionsrichter der Beschwerde die aufschiebende Wirkung zuerkannt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 mit Hinweisen).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Es steht fest und ist unbestritten, dass der Beschwerdeführer die von der Beschwerdegegnerin zurückverlangten Rentenleistungen in Höhe von Fr. 3'384.- zu Unrecht bezogen und daher im Sinne von <ref-law> - vorbehältlich eines Erlasses - grundsätzlich zurückzuerstatten hat. Streitig und zu prüfen ist, ob die Rückerstattungsforderung nach <ref-law> verwirkt ist.
3.
Gemäss Art. 25 Abs. 2 erster Satz ATSG erlischt der Rückforderungsanspruch mit dem Ablauf eines Jahres, nachdem die Versicherungseinrichtung davon Kenntnis erhalten hat, spätestens aber mit dem Ablauf von fünf Jahren nach der Entrichtung der einzelnen Leistung. Bei den genannten Fristen handelt es sich um Verwirkungsfristen (<ref-ruling> E. 2.1 mit Hinweisen).
Das kantonale Gericht hat die Rechtsprechung richtig wiedergegeben, wonach mit Bezug auf den Beginn der einjährigen relativen Verwirkungsfrist nicht die tatsächliche, sondern die zumutbare Kenntnis des zur Rückforderung Anlass gebenden Sachverhalts massgebend ist. Fristauslösend ist allerdings - wie die Vorinstanz dargelegt hat - nicht das erstmalige unrichtige Handeln des Durchführungsorgans und die daran anknüpfende unrechtmässige Leistungsausrichtung. Vielmehr ist auf jenen Tag abzustellen, an dem die Verwaltung später - beispielsweise anlässlich einer Rechnungskontrolle oder aufgrund eines zusätzlichen Indizes - bei Beachtung der gebotenen und ihr zumutbaren Aufmerksamkeit sich hinsichtlich ihres Fehlers hätte Rechenschaft geben und erkennen müssen, dass die Voraussetzungen für eine Rückforderung gegeben sind (<ref-ruling> E. 3.1 S. 572; <ref-ruling> E. 1 S. 382 f., je mit Hinweisen; Urteil 9C_328/2015 vom 23. September 2015 E. 2 mit Hinweisen).
4.
Zur Diskussion steht die einjährige, relative Verwirkungsfrist und hiebei namentlich die Frage, wann die IV-Stelle Kenntnis vom Rückforderungsanspruch erhalten hat.
4.1. Das kantonale Gericht hat diesbezüglich erwogen, für die IV-Stelle habe erst mit der Mitteilung des BSV vom 14. Juni 2013 ein konkreter Anlass bestanden, weitere Abklärungen zum Zivilstand des Beschwerdeführers zu treffen, die möglicherweise Auswirkungen auf den Rentenanspruch haben könnten. Eine Rückforderung sei damit aber noch nicht festgestanden, hätten doch zunächst der Zivilstand verifiziert und ein Rentensplitting mit Neuberechnung der Rentenhöhe vorgenommen werden müssen. Für diese Abklärungen billigte die Vorinstanz der IV-Stelle bzw. der Ausgleichskasse mindestens drei Monate zu und kam zum Schluss, die sichere Kenntnis von Bestand und Umfang der Rückforderung könne frühestens ab 14. September 2013 angenommen werden, weshalb die einjährige Frist mit der Rückforderungsverfügung vom 9. September 2014 eingehalten worden sei.
4.2. Der Beschwerdeführer erhebt keine Rügen, welche zur Bejahung einer Rechtsverletzung führen oder die vorinstanzlichen Sachverhaltsfeststellungen als offensichtlich unrichtig, als Ergebnis willkürlicher Beweiswürdigung oder als rechtsfehlerhaft nach <ref-law> erscheinen lassen (vgl. E. 1 hievor). Soweit er sich - wie bereits vor dem kantonalen Gericht - darauf beruft, er habe der IV-Stelle die Scheidung gemeldet und das Scheidungsurteil nachgereicht, ist die Nichtbeachtung dieser Meldung durch die Verwaltung mit der Vorinstanz als erstmaliges unrichtiges Handeln des Durchführungsorgans und daran anknüpfende unrechtmässige Leistungsausrichtung zu qualifizieren, was - wie dargelegt - nicht fristauslösend ist. Die fehlende Erwähnung der Ehefrau in der Anmeldung zum Leistungsbezug vom 19. Juni 2006, auf welche sich der Beschwerdeführer im Weiteren beruft, bot sodann keinen Anlass, den Zivilstand des Versicherten näher abzuklären, da es um Leistungen im Zusammenhang mit der medizinischen Behandlung eines Kataraktes ging und nicht um den Rentenanspruch, bei welchem sich die Frage des Rentensplittings stellen könnte. Der Standpunkt der Vorinstanz, wonach erst die Mitteilung des BSV der Verwaltung Anlass bot, sich über ihren - von keiner Seite bestrittenen - ursprünglichen Fehler Rechenschaft zu geben und diesbezügliche Abklärungen zu treffen, wozu ihr das kantonale Gericht einen Zeitraum von drei Monaten zugestand, ist nach Gesagtem nicht zu beanstanden. Die Rückerstattungsverfügung vom 9. September 2014 erging daher rechtzeitig, weshalb es beim angefochtenen Entscheid sein Bewenden hat.
5.
Die offensichtlich unbegründete Beschwerde wird im vereinfachten Verfahren nach <ref-law> - mit summarischer Begründung unter Verweis auf den kantonalen Entscheid (Art. 102 Abs. 1 und Art. 109 Abs. 3 BGG) - erledigt.
6.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 7. Januar 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Kopp Käch