Sachverhalt:
A.
A.a. Die 1968 geborene A._ bezog seit 1. Januar 2007 eine halbe Invalidenrente (Verfügung der IV-Stelle des Kantons Aargau vom 3. Oktober 2008). Nachdem sie sich am 8. März 2010 unter Hinweis auf zwei erlittene Unfälle erneut bei der Invalidenversicherung gemeldet hatte, leitete die IV-Stelle Solothurn, welche neu zuständig geworden war, eine Revision ein. Die Verwaltung holte u. a. ein psychiatrisches Gutachten bei Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie FMH (vom 29. Januar 2013), ein. Nach Durchführung des Vorbescheidverfahrens hob sie die bisherige Invalidenrente am 15. April 2014 verfügungsweise mit Wirkung per 31. Mai 2014 auf.
Die dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 22. September 2015 gut, hob die Verfügung vom 15. April 2014 auf und wies die Sache an die IV-Stelle zurück, damit diese die psychiatrische Abklärung im Sinne der Erwägungen vornehme und hierauf neu entscheide (Dispositiv-Ziff. 1). Ferner verpflichtete es die IV-Stelle, der Versicherten eine Parteientschädigung in der Höhe von Fr. 2'491.60 (inkl. Auslagen und Mehrwertsteuer) zu bezahlen (Dispositiv-Ziff. 2) sowie die Verfahrenskosten im Betrag von Fr. 600.- zu tragen (Dispositiv-Ziff. 4). Auf die hierauf von der IV-Stelle eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten trat das Bundesgericht nicht ein (Urteil 9C_803/2015 vom 25. November 2015).
A.b. Die IV-Stelle gab in der Folge eine psychiatrische Expertise bei Dr. med. C._, Facharzt für Psychiatrie und Psychotherapie, in Auftrag, welche am 30. Mai 2016 erstattet wurde. Mit Verfügung vom 13. Juni 2017 hob die IV-Stelle die halbe Invalidenrente rückwirkend ab 1. Juni 2014 auf. Die von A._ eingereichte Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 20. August 2018 ab. Dieser blieb unangefochten.
B.
Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Rechtsbegehren, die Dispositiv-Ziffern 2 und 4 des Entscheids des Versicherungsgerichts des Kantons Solothurn vom 22. September 2015 seien aufzuheben und die Kosten des psychiatrischen Gutachtens des Dr. med. C._ vom 30. Mai 2016 in der Höhe von Fr. 4'000.- seien der Vorinstanz respektive dem Kanton Solothurn zu überbinden.
Die Vorinstanz kommt in ihrer Eingabe vor dem Bundesgericht zum Ergebnis, die von ihr mit Entscheid vom 22. September 2015 angeordnete Rückweisung lasse sich nicht als unnötig bezeichnen und die Voraussetzungen einer Auferlegung der Kosten eines Gutachtens an den Kanton seien nicht erfüllt. A._ und das Bundesamt für Sozialversicherungen haben sich nicht vernehmen lassen.

Erwägungen:
1.
Das Bundesgericht prüft seine Zuständigkeit und die (weiteren) Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (<ref-law>; <ref-ruling> E. 1 S. 555 mit Hinweisen).
1.1. Angefochten ist die Kostenregelung im Entscheid vom 22. September 2015, mit dem die Angelegenheit zur erneuten psychiatrischen Abklärung und anschliessenden neuen Verfügung an die Beschwerdeführerin zurückgewiesen worden war. Dieser Entscheid stellt damit einen Zwischenentscheid dar (<ref-ruling> E. 3.2 S. 607; <ref-ruling> E. 2 S. 647 f.), der gemäss <ref-law> im Nachgang zu dem auf Grund des Rückweisungsentscheids neu ergehenden Endentscheid in der Sache angefochten werden kann (<ref-ruling> E. 3.3.2 S. 557 f. mit Hinweisen).
1.2. Im vorliegenden Fall hat das kantonale Gericht mit seinem - für die Kostenfolge fristauslösenden und in der Sache unangefochten gebliebenen (<ref-law>; <ref-ruling> E. 1.3 S. 366 f.; <ref-ruling> E. 3.3.2 S. 558) - Entscheid vom 20. August 2018 über den Leistungsanspruch entschieden. Dieser ist am 23. August 2018 bei der IV-Stelle eingegangen. Die am 24. September 2018 der Post übergebene Beschwerde ist daher rechtzeitig erfolgt, weshalb darauf eingetreten werden kann.
2.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung auf Rüge hin oder von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 105 Abs. 2 und Art. 97 Abs. 1 BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>) und ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 5 S. 559 f.).
3.
Die Beschwerdeführerin begründet ihren Antrag auf vorinstanzliche Kostenbefreiung damit, dass die Motive, welche das kantonale Gericht im Rahmen seines Entscheids vom 22. September 2015 zur Rückweisung der Angelegenheit zwecks erneuter medizinischer Abklärung bewogen hätten, als bundesrechtswidrig zu qualifizieren seien. Der Vorinstanz wäre es ohne Weiteres möglich gewesen, auf der Basis der bereits bestehenden, spruchreifen medizinischen Aktenlage die der Beschwerdegegnerin verbliebene Arbeitsfähigkeit im Rahmen eines strukturierten Beweisverfahrens anhand der sogenannten Standardindikatoren gemäss <ref-ruling> (vom 3. Juni 2015) zu beurteilen. Diese Beurteilung hätte dazu geführt, dass der Versicherten auf Grund des - als vollumfänglich beweiswertig einzustufenden - Gutachtens des Dr. med. B._ vom 29. Januar 2013 eine 100 %ige Arbeitsfähigkeit im Rahmen des somatisch anerkannten Zumutbarkeitsprofils zu bescheinigen gewesen wäre. Somit hätte sich eine Rückweisung der Angelegenheit zur erneuten Begutachtung erübrigt. Da die Beschwerde folglich voraussichtlich abschlägig hätte beschieden werden müssen, seien die damaligen Verfahrenskosten (von Fr. 600.-) der unterliegenden Versicherten aufzuerlegen und habe sie - die IV-Stelle - keine Parteientschädigung auszurichten.
Ferner macht die Beschwerdeführerin geltend, die durch die unnötige psychiatrische (Zweit-) Begutachtung (Expertise des Dr. med. C._ vom 30. Mai 2016) entstandenen Kosten in der Höhe von Fr. 4'000.- seien gestützt auf die entsprechenden kantonalen Normen, die ihrerseits auf Art. 106 bis 109 der Schweizerischen Zivilprozessordnung (ZPO; SR 272) verwiesen, dem kantonalen Versicherungsgericht respektive dem Kanton Solothurn zu überbinden. Der Entscheid, die diesbezüglichen Kosten ihr aufzuerlegen, sei letztlich willkürlich (<ref-law>).
4.
Vorab ist zu prüfen, ob die Rückweisung an die Beschwerdeführerin zur neuen Begutachtung der Versicherten rechtens war, wobei für die entscheidwesentlichen rechtlichen Grundlagen auf die sachbezüglichen Erwägungen im angefochtenen Entscheid zu verweisen ist.
4.1. In der Beschwerde wird im Einzelnen vorgebracht, der Rückweisungsentscheid vom 22. September 2015 verstosse gegen Bundesrecht. Es wäre nicht Sache des Versicherungsgerichts gewesen, gestützt auf Zitate aus dem Artikel von THOMAS GÄCHTER und MICHAEL E. MEIER, "Schmerzrechtsprechung 2.0" (in: Jusletter vom 29. Juni 2015), dem psychiatrischen Gutachten des Dr. med. B._ vom 29. Januar 2013 den Beweiswert im Lichte von <ref-ruling> abzusprechen und damit die vom Bundesgericht aufgestellte intertemporalrechtliche Beweiswürdigungsregel "ad absurdum zu führen". Das kantonale Gericht wäre vielmehr gehalten gewesen - so die IV-Stelle im Folgenden -, eingehend zu prüfen, ob das psychiatrische Administrativgutachten, gegebenenfalls im Kontext mit weiteren fachärztlichen Berichten, eine schlüssige Beurteilung nach Massgabe der entscheidwesentlichen Indikatoren erlaubte oder nicht. Es hätte sodann daraus folgern müssen, dass die fraglichen Standardindikatoren ohne Weiteres auf Grund des im Rahmen des Revisionsverfahrens eingeholten Gutachtens des Dr. med. B._, der sich zu allen massgeblichen Beweisthemen geäussert habe, hätten beurteilt werden können. Aus der entsprechenden Beurteilung hätte die Vorinstanz schliesslich abzuleiten gehabt, dass die Versicherte über genügend Ressourcen verfüge, um einer Erwerbstätigkeit im Rahmen des somatisch anerkannten Zumutbarkeitsprofils im Umfang von 100 % nachgehen zu können. Zudem rügt die Beschwerdeführerin eine Verletzung ihres rechtlichen Gehörs, indem das Versicherungsgericht es unterlassen habe, ihr Gelegenheit zu geben, zur Rechtsprechungsänderung gemäss <ref-ruling> Stellung zu nehmen.
4.2. Das kantonale Gericht erwog im Rückweisungsentscheid vom 22. September 2015 im Wesentlichen, Dr. med. B._ habe in seinem Gutachten vom 29. Januar 2013, das grundsätzlich den rechtsprechungsgemässen Anforderungen an eine beweiskräftige medizinische Entscheidgrundlage gerecht werde, folgende Diagnosen gestellt, die seit Sommer 2011 ohne Einfluss auf die Arbeitsfähigkeit in einer angepassten Tätigkeit gewesen seien: Eine anhaltende somatoforme Schmerzstörung (ICD-10 F45.4), eine depressive Episode, seit Sommer 2011 remittiert (ICD-10 F32.4), sowie einen Status nach psychosozialer Belastungssituation (Z63). Mit Urteil 9C_492/2014 vom 3. Juni 2015 (publiziert in <ref-ruling>) habe das Bundesgericht seine Praxis zur anhaltenden somatoformen Schmerzstörung und zu vergleichbaren unklaren Beschwerdebildern geändert. Diese neue Rechtsprechung sei grundsätzlich auf alle hängigen Fälle anwendbar. Allerdings würden nach altem Verfahrensstand eingeholte Gutachten ihren Beweiswert nicht verlieren, sofern das abschliessende Abstellen auf die vorhandenen Beweisgrundlagen vor Bundesrecht standhalte. Wolle man aus beweisrechtlicher Sicht weiterhin auf die gutachtlichen Schlussfolgerungen des Dr. med. B._ abstützen, müssten diese auch den Anforderungen der neuen Rechtsprechung genügen oder sich zumindest punktuell ergänzen lassen, damit sie den Vorgaben der neuen Schmerzrechtsprechung entsprächen. Wie THOMAS GÄCHTER und MICHAEL E. MEIER im Artikel "Schmerzrechtsprechung 2.0" (in: Jusletter vom 29. Juni 2015) zu Recht festgehalten hätten, werde es vielen Administrativgutachten an der nun gebotenen Optik und der Berücksichtigung aller relevanten Umstände fehlen. Der Fokus sei, wie das Bundesgericht deutlich mache, häufig stark auf die medizinische Komponente und die Zumutbarkeits- bzw. Foerster-Kriterien gelegt worden; positive Ressourcen in der Persönlichkeit und im sozialen Umfeld der Exploranden seien bisher nicht im neu geforderten Ausmass Gegenstand der Abklärungen gewesen. Dies gelte auch für die Expertise des Dr. med. B._, die zwar durchaus ausführlich gehalten sei und sich eingehend mit den persönlichen Angaben der Versicherten zu ihren Aktivitäten und ihrem Umfeld befasse. Jedoch fehle es auch hier an der Betrachtungsweise, welche die aktuelle Rechtsprechung zur Beurteilung der massgebenden Indikatoren voraussetze. Eine punktuelle Ergänzung sei in diesem Zusammenhang ebenfalls nicht zielführend.
5.
5.1. Die Vorinstanz begründete ihre Einschätzung, das Gutachten des Dr. med. B._ liesse keine abschliessende Beurteilung des psychischen Gesundheitszustands der Beschwerdegegnerin auf der Basis der Rechtsprechung gemäss <ref-ruling> zu, primär mit zwei Argumenten: Es fehle an genügenden Abklärungen der positiven Ressourcen in der Persönlichkeit und im sozialen Umfeld ("...; dies gilt auch für das vorliegende psychiatrische Gutachten von Dr. B._,..") sowie "an der Betrachtungsweise, die die neue Rechtsprechung zur Beurteilung der massgebenden Indikatoren voraussetze" (beide in E. 11.2 des angefochtenen Entscheids).
Dieser nicht weiter begründeten Einschätzung kann nicht gefolgt werden. Auch wenn der Gutachter sich vorwiegend an den Foerster-Kriterien orientierte, deren zwei er als erfüllt betrachtete, beinhaltet sein Bericht hinreichend Aussagen und Anhaltspunkte, um bei der damals gegebenen medizinischen Aktenlage eine schlüssige Beurteilung des Einzelfalls anhand der Standardindikatoren von <ref-ruling> (E. 4.1.3 S. 297 unten f.) vornehmen zu können.
5.2.
5.2.1. Hinsichtlich der Kategorie "funktioneller Schweregrad"/Komplex "Gesundheitsschädigung" (vgl. <ref-ruling> E. 4.3 und 4.3.1 S. 298) ergibt eine Analyse des Gutachtens des Dr. med. B._ folgendes Bild:
5.2.1.1. Mit Bezug auf den ersten Indikator ("Ausprägung der diagnoserelevanten Befunde und Symptome" [<ref-ruling> E. 4.3.1.1 S. 298 f.]) erwähnte Dr. med. B._, die Versicherte sei auf die Schmerzen fixiert, äussere hypochondrische Befürchtungen und zeige eine Schmerzausdehnung. Er qualifizierte die Schmerzproblematik als "progredient und chronifiziert".
Daraus kann nicht ohne Weiteres auf einen bestimmten funktionellen Schweregrad der Störung geschlossen werden. Der Gutachter betonte, dass auch ungünstige krankheitsfremde Faktoren vorlagen, nämlich eine lange Phase von Arbeitsunfähigkeit, fehlende Motivation zur Wiederaufnahme einer beruflichen Tätigkeit und ein "zufrieden sein mit dem heutigen Status".
5.2.1.2. In Zusammenhang mit dem zweiten Indikator ("Behandlungs- und Eingliederungserfolg oder -resistenz" [<ref-ruling> E. 4.3.1.2 S. 299 f.]) stellte Dr. med. B._ fest, dass die Versicherte seit Sommer 2012 keine antidepressiv wirkenden Medikamente mehr eingenommen und nur noch alle sechs Wochen eine Psychologin aufgesucht habe, da es ihr seit Sommer 2011 psychisch deutlich besser gegangen sei. Gemäss seiner Einschätzung war eine Intensivierung der psychologischen Therapie nicht notwendig und die Versicherte benötigte keine Psychopharmaka (mehr); zudem bezeichnete er die Prognose aus psychiatrischer Sicht als günstig.
Somit ist von einem positiven Verlauf der Therapie und einer guten Prognose auszugehen. Weiter gilt es an dieser Stelle zu berücksichtigen, dass es trotz einer seit 2007 anerkannten teilweisen Arbeitsfähigkeit an ausgewiesenen Arbeitsbemühungen der Beschwerdegegnerin fehlt und demnach nicht einmal der Versuch einer Selbsteingliederung erkennbar ist.
5.2.1.3. Unter dem Indikator "Komorbiditäten" (<ref-ruling> E. 4.3.1.3 S. 300 ff.) ist anzumerken, dass Dr. med. B._, wie hiervor ausgeführt, von einer günstigen Entwicklung der psychischen Beschwerden seit Sommer 2011 gesprochen hatte, da sich die Depressionen seither zurückgebildet hätten und im Zeitpunkt der Begutachtung als remittiert einzustufen seien. Insbesondere seien mit dem Abklingen der depressiven Episode die berichteten Verwirrtheitszustände verschwunden. Obwohl der Gutachter in der Folge auf eine chronische körperliche Begleiterkrankung verwies, bezeichnete er diese nicht näher. Gemäss den Feststellungen der Vorinstanz litt die Versicherte an Beschwerden am linken Ellbogen und an den Folgen einer Radiusfraktur rechts (verminderte Beweglichkeit und funktionelle Einschränkung der Belastbarkeit des rechten Handgelenks), die aber die Arbeitsfähigkeit in einer angepassten Tätigkeit nicht beeinflussten. Insgesamt, so das kantonale Gericht abschliessend, sei die Beschwerdegegnerin in somatischer Hinsicht im Rahmen einer angepassten Tätigkeit vollumfänglich arbeitsfähig. Die körperlichen Beeinträchtigungen wirkten sich bei der Versicherten somit zwar in der angestammten Arbeit aus, schränkten ihr Leistungsvermögen in adaptierten Tätigkeiten aber nicht ein.
5.2.2. Was die Kategorie "funktioneller Schweregrad"/Komplex "Persönlichkeit" (Persönlichkeitsdiagnostik, persönliche Ressourcen) anbelangt (<ref-ruling> E. 4.3.2 S. 302 f.), äusserte sich Dr. med. B._ sowohl zu den komplexen Ich-Funktionen als auch zu allfälligen diesbezüglichen Einschränkungen. Entgegen der Ansicht der Vorinstanz kann folglich nicht gesagt werden, es fehle an Abklärungen über die positiven Ressourcen in der Persönlichkeit im nun geforderten Ausmass. Die "komplexen Ich-Funktionen" bezeichnen in der Persönlichkeit angelegte Fähigkeiten, welche Rückschlüsse auf das Leistungsvermögen zulassen (u.a. Selbst- und Fremdwahrnehmung, Realitätsprüfung und Urteilsbildung, Affektsteuerung und Impulskontrolle sowie Intentionalität [Fähigkeit, sich auf einen Gegenstand zu beziehen] und Antrieb [<ref-ruling> E. 4.3.2 S. 302]). Indem der Gutachter keine Einschränkung in den verschiedenen Funktionen feststellte, verneinte er jegliche Faktoren, die sich negativ auf die Ressourcen der Versicherten ausgewirkt hätten. Insbesondere waren weder Störungen des Antriebs und der Psychomotorik noch der Aufmerksamkeit und des Gedächtnisses festzustellen. Zudem kam Dr. med. B._ zum Schluss, dass die Selbsteinschätzung der Versicherten, sie verfüge nur über ein tiefes Ressourcenpotential, nicht mit psychischen Beeinträchtigungen erklärt werden konnte.
5.2.3. Mit Blick auf den Komplex "Sozialer Kontext" der Kategorie "funktioneller Schweregrad" (<ref-ruling> E 4.3.3 S. 303 oben) gilt es festzuhalten, dass dieser in casu durch keinen sozialen Rückzug gekennzeichnet war. Vielmehr verneinte Dr. med. B._ einen solchen ausdrücklich und berichtete von zufriedenstellenden familiären Verhältnissen (neue Partnerschaft, gemeinsamer Haushalt mit Sohn und Tochter, die bei den Hausarbeiten hilft) sowie einer intakten sozialen Integration.
5.2.4.
5.2.4.1. Unter dem Aspekt Kategorie "Konsistenz" (Gesichtspunkte des Verhaltens [<ref-ruling> E. 4.4 S. 303]) ist hinsichtlich des Indikators "gleichmässige Einschränkung des Aktivitätenniveaus in allen vergleichbaren Lebensbereichen" (<ref-ruling> E. 4.4.1 S. 303 f.) von Bedeutung, dass der Gutachter von einer regelmässigen Tagesstruktur sprach und zugleich auf eine fehlende Motivation der Versicherten, "ausser Hause zu arbeiten", sowie ein "Zufriedensein" mit dem aktuellen Status hinwies. Zudem betonte er, aus der Tatsache, dass die Explorandin oft und gerne Auto fahre, sei der Schluss zu ziehen, dass sie den schweren Unfall in der Türkei psychisch habe überwinden können. Es konnte also nicht von einer gleichmässigen Einschränkung des Aktivitätenniveaus in allen vergleichbaren Lebensbereichen ausgegangen werden.
5.2.4.2. Schliesslich deutet die - mit Blick auf den Indikator "Inanspruchnahme von therapeutischen Optionen" (<ref-ruling> E. 4.4.2 S. 304) bedeutsame - geringe Frequenz der psychologischen Behandlungssitzungen (alle sechs Wochen) und die Absetzung jeglicher Psychopharmaka (vgl. E. 5.2.1.2 hiervor) auf einen mässigen Leidensdruck hin. Auch erwog der Gutachter, dass weder eine Intensivierung der psychologischen Therapie noch Psychopharmaka erforderlich seien.
5.2.5. Nach dem Gesagten stellte das Gutachten vom 29. Januar 2013 auch im Lichte der Rechtsprechung gemäss <ref-ruling> - anders als andere Gutachten in ähnlich gelagerten Fällen derselben Vorinstanz (vgl. Urteile 9C_665/2018 vom 26. November 2018 und 8C_461/2017 vom 27. September 2017) - eine beweiskräftige Grundlage dar, um die Frage nach den funktionellen Auswirkungen der gesundheitlichen Beeinträchtigungen der Versicherten in zuverlässiger Weise entscheiden zu können. Gestützt darauf sowie auf die übrigen von der Vorinstanz im Hinblick auf den somatischen Gesundheitszustand gewürdigten medizinischen Akten ist als erstellt anzusehen, dass die Beschwerdegegnerin bei Ausschöpfung ihrer vorhandenen psychischen Ressourcen in der Lage war, eine leidensangepasste Tätigkeit vollzeitig auszuüben.
5.3. Die von der Vorinstanz mit Entscheid vom 22. September 2015 angeordnete Rückweisung an die Beschwerdeführerin zur neuen Begutachtung erweist sich vor diesem Hintergrund als bundesrechtswidrig. Das kantonale Gericht hätte nicht auf Nichtverwertbarkeit des Gutachtens des Dr. med. B._ schliessen dürfen, sondern wäre vielmehr gehalten gewesen, dieses in seiner materiellen Beweiswürdigung einzubeziehen. Es erübrigt sich jedoch, die Angelegenheit an die Vorinstanz zurückzuweisen, da in der Sache bereits eine zweite Expertise (des Dr. med. C._ vom 30. Mai 2016) vorliegt. Gestützt darauf konnte das invalidenversicherungsrechtliche Verfahren mit Entscheid des Versicherungsgerichts des Kantons Solothurn vom 20. August 2018 denn auch rechtskräftig abgeschlossen werden. Es hat deshalb bezogen auf die hier zu klärende vorinstanzliche Verfahrens- und Parteikostenverlegung als gegenstandslos zu gelten.
6.
6.1. Laut Art. 69 Abs. 1 bis IVG ist das Beschwerdeverfahren bei Streitigkeiten um die Bewilligung oder die Verweigerung von IV-Leistungen vor dem kantonalen Versicherungsgericht kostenpflichtig. Die Kosten werden nach dem Verfahrensaufwand und unabhängig vom Streitwert im Rahmen von Fr. 200.- bis Fr. 1'000.- festgelegt. Gemäss <ref-law> hat die obsiegende beschwerdeführende Person Anspruch auf Ersatz der Parteikosten. Diese werden vom Versicherungsgericht festgesetzt und ohne Rücksicht auf den Streitwert nach der Bedeutung der Streitsache und nach der Schwierigkeit des Prozesses bemessen. Weitergehende bundesrechtliche Vorschriften zur Auferlegung der Verfahrens- und Parteikosten finden sich im Sozialversicherungsrecht mit Ausnahme dieser Normen nicht (<ref-ruling> E. 8.1 S. 567). Die Bestimmungen des Kantons Solothurn erklären diesbezüglich Art. 106 bis 109 ZPO als sinngemäss anwendbar (§ 1 Abs. 3 der - gestützt auf § 80 des Gesetzes vom 15. November 1970 über den Rechtsschutz in Verwaltungssachen [Verwaltungsrechtspflegegesetz; BGS 124.11] erlassenen - Verordnung des Kantonsrates vom 22. September 1987 über das Verfahren vor dem Versicherungsgericht und über die Organisation und das Verfahren der Schiedsgerichte in den Sozialversicherungen [BGS 125.922] in Verbindung mit § 77 Abs. 1 des Verwaltungsrechtspflegegesetzes; vgl. <ref-ruling> E. 8.1 S. 567 f.).
6.2. Nach <ref-law> werden die Prozesskosten grundsätzlich der unterliegenden Partei auferlegt. Gestützt auf <ref-law> kann das Gericht von den Verteilungsgrundsätzen gemäss <ref-law> abweichen und die Prozesskosten nach Ermessen verteilen, wenn das Verfahren als gegenstandslos abgeschrieben wird und das Gesetz nichts anderes vorsieht. Dabei ist für die Kostenverlegung je nach Lage des Einzelfalls zu berücksichtigen, welche Partei Anlass zur Klage gegeben hat, welches der mutmassliche Prozessausgang gewesen wäre, bei welcher Partei die Gründe eingetreten sind, die zur Gegenstandslosigkeit des Prozesses geführt haben, und welche Partei unnötigerweise Kosten verursacht hat (VIKTOR RÜEGG, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 2. Aufl. 2013, N. 8 zu <ref-law>; DAVID JENNY, in: Kommentar zur Schweizerischen Zivilprozessordnung [ZPO], 3. Aufl. 2016, N. 16 zu <ref-law>). Das Bundesgericht selber stellt in den bei ihm gegenstandslos gewordenen Verfahren und bei vergleichbarer rechtlicher Grundlage (<ref-law> in Verbindung mit <ref-law> [SR 273]) bezüglich der Kostenauflage in erster Linie auf den mutmasslichen Prozessausgang ab (<ref-ruling> E. 2a S. 374 f. mit Hinweisen; <ref-ruling> E. 4a S. 494 f.; Urteil 8C_417/2010 vom 6. September 2010 E. 6.2 mit Hinweisen). Dabei geht es nicht darum, die Prozessaussichten im Einzelnen zu prüfen und dadurch weitere Umtriebe zu verursachen. Vielmehr soll es bei einer knappen, summarischen Beurteilung der Aktenlage sein Bewenden haben. Auf dem Weg über den Kostenentscheid soll nicht ein materielles Urteil gefällt werden (zum Ganzen: <ref-ruling> E. 8.2 S. 568 mit Hinweisen).
6.3. Eine Rückweisung der Sache an die Vorinstanz zur Vornahme der Kostenverlegung nach Massgabe der erwähnten Rechtsgrundlagen erweist sich jedoch als unnötig, da sich sowohl die Vorinstanz als auch die Beschwerdeführerin im Rahmen ihrer letztinstanzlichen Eingaben zum Ergebnis eines derartigen mutmasslichen Prozessausgangs geäussert haben und auch die Versicherte Gelegenheit hatte, eine entsprechende Stellungnahme abzugeben. Es käme daher einem prozessualen Leerlauf gleich, die Angelegenheit in diesem Punkt dem kantonalen Gericht zu unterbreiten.
6.3.1. Aus den Erwägungen zum Beweiswert des Gutachtens des Dr. med. B._ vom 29. Januar 2013 (E. 5.2) ist ersichtlich, dass die Vorinstanz, hätte sie auch auf diese medizinische Grundlage abgestellt, mutmasslich zum Schluss gekommen wäre, der Versicherten wäre nicht nur aus somatischer sondern auch aus psychischer Sicht zuzumuten gewesen, eine angepasste Tätigkeit im Umfang von 100 % auszuüben. Dies hätte einen weiteren Rentenanspruch ausgeschlossen (vgl. den auf der Basis von Angaben der Schweizerischen Lohnstrukturerhebung [LSE] vorgenommenen Einkommensvergleich in der Verfügung der IV-Stelle des Kantons Aargau vom 3. Oktober 2008, welcher mit den entsprechenden statistischen Werten für das Jahr 2014 zum gleichen Resultat führt). Es hätte demnach bei der rentenaufhebenden Verfügung vom 15. April 2014 sein Bewenden gehabt.
6.3.2. Nach dem Gesagten wäre die Beschwerde der Versicherten voraussichtlich abgewiesen worden, wenn das kantonale Gericht sie gestützt auch auf das Gutachten des Dr. med. B._ vom 29. Januar 2013 beurteilt hätte.
Bei diesem mutmasslichen Verfahrensausgang rechtfertigt es sich, die vorinstanzlichen Verfahrenskosten von Fr. 600.- grundsätzlich der unterliegenden Versicherten aufzuerlegen. Von einer Parteientschädigung ist abzusehen. Der Beschwerdegegnerin wurde aber im kantonalen Verfahren ab Prozessbeginn die unentgeltliche Rechtspflege gewährt (vgl. präsidiale Verfügung vom 8. Juli 2014), sodass die kantonalen Verfahrenskosten (von Fr. 600.-) sowie das Honorar des damaligen unentgeltlichen Rechtsbeistands, Rechtsanwalt Stefan Galligani, in der von der Vorinstanz vorsorglich festgestellten Höhe (von Fr. 2'491.50) durch die Zentrale Gerichtskasse des Kantons Solothurn bzw. durch den Staat Solothurn zu übernehmen sind (Art. 122 Abs. 1 lit. a und b ZPO). Vorbehalten bleibt der Rückforderungsanspruch des Staats während zehn Jahren, wenn die Versicherte zur Nachzahlung in der Lage ist (<ref-law>).
Insoweit ist die Beschwerde der IV-Stelle gutzuheissen.
7.
Es bleibt die Frage zu prüfen, ob auch die Kosten des Gutachtens des Dr. med. C._ vom 30. Mai 2016 auf die Vorinstanz respektive den Kanton Solothurn zu überbinden sind, wie dies von der Beschwerdeführerin geltend gemacht wird.
7.1. Das Verfahren ist kostenpflichtig (<ref-law>). Die Gerichtskosten werden in der Regel der unterliegenden Partei auferlegt (<ref-law>). Ferner wird diese regelmässig verpflichtet, der obsiegenden Partei die durch den Rechtsstreit verursachten notwendigen Kosten zu ersetzen (Art. 68 Abs. 1 und 2 BGG). Bund, Kantonen und Gemeinden sowie mit öffentlich-rechtlichen Aufgaben betrauten Organisationen dürfen in der Regel keine Gerichtskosten auferlegt werden, wenn sie in ihrem amtlichen Wirkungskreis, ohne dass es sich um ihr Vermögensinteresse handelt, das Bundesgericht in Anspruch nehmen oder wenn gegen ihre Entscheide in solchen Angelegenheiten Beschwerde geführt worden ist (<ref-law>). Auch wird ihnen in der Regel keine Parteientschädigung zugesprochen, wenn sie in ihrem amtlichen Wirkungskreis obsiegen (<ref-law>). Unnötige Kosten hat indessen zu bezahlen, wer sie verursacht (Art. 66 Abs. 3 und Art. 68 Abs. 4 BGG). Dies gestattet auch, ausnahmsweise die Gerichts- und Parteikosten der Vorinstanz respektive dem Gemeinwesen, dem diese angehört, aufzuerlegen, namentlich wenn die Vorinstanz in qualifizierter Weise die Pflicht zur Justizgewährleistung verletzt hat (<ref-ruling> E. 9.1 S. 571 mit Hinweisen).
7.1.1. Letzteres trifft im vorliegenden Fall nicht zu. Zwar ist von einer vor dem Hintergrund der durch <ref-ruling> kurz zuvor eingeführten Rechtsprechungsänderung unzutreffenden vorinstanzlichen Begründung der Rückweisung auszugehen. Da die Schlussfolgerung des kantonalen Gerichts, die Expertise des Dr. med. B._ vom 29. Januar 2013 erlaube keine schlüssige Beurteilung im Lichte der nunmehr massgeblichen Indikatoren, jedoch nicht das Ergebnis einer krass rechtsverletzenden Auslegung der vom Bundesgericht aufgestellten intertemporalrechtlichen Beweiswürdigungsregel (vgl. E. 8 S. 309 von <ref-ruling>) darstellt, kann nicht von einer eigentlichen, in qualifizierter Weise erfolgten Missachtung der Justizgewährleistungspflicht gesprochen werden. Der Vorinstanz sind folglich keine bundesgerichtlichen Verfahrenskosten aufzuerlegen.
7.1.2. Ebenso wenig ist vor diesem Hintergrund eine Überwälzung der durch die (Zweit-) Begutachtung durch Dr. med. C._ entstandenen Kosten auf das kantonale Gericht unter dem Titel einer zugunsten der IV-Stelle auszurichtenden Parteientschädigung angezeigt, zumal es sich dabei nicht um im Rahmen des letztinstanzlichen Verfahrens verursachte "unnötige Kosten" handelt.
7.2. Im Hinblick auf die kantonalen Normen, die eine Rechtsgrundlage für eine entsprechende Rückerstattung der - Abklärungskosten im Sinne von <ref-law> darstellenden - Gutachtensaufwendungen bilden könnten, sind Art. 107 Abs. 2 und <ref-law> in Betracht zu ziehen. Kraft des in E. 6.1 hiervor aufgezeigten Verweises im kantonalen Prozessrecht sind diese Bestimmungen im vorliegenden Kontext nicht bundes-, sondern kantonalrechtlicher Natur.
7.2.1. Diesbezüglich wendet die Beschwerdeführerin ein, da ihr keine Verletzung der Abklärungspflicht gemäss <ref-law> vorgeworfen werden könne, hätten ihr auch die Kosten einer gerichtlich angeordneten Begutachtung rechtsprechungsgemäss nicht überbunden werden dürfen (vgl. <ref-ruling>). In analoger Weise zu der Situation, bei welcher den IV-Stellen die gesamten Kosten eines Gerichtsgutachtens auferlegt werden könnten (vgl. <ref-ruling>), erschiene es angebracht, dass die kantonalen Versicherungsgerichte bei - sich nachträglich als bundesrechtswidrig herausstellenden - Rückweisungsentscheiden die Kosten für unnötige (Zweit-) Begutachtungen zu übernehmen hätten. Dies entspräche dem in <ref-law> statuierten Verursacherprinzip und füge sich in die Regelung ein, dass die Gerichtskosten, zu denen auch die Gutachterkosten zu zählen seien, aus Billigkeitsgründen dem Kanton auferlegt werden könnten. Die gegenteilige Lösung liefe in stossender Weise dem Gerechtigkeitsgedanken zuwider, da die kantonalen Versicherungsgerichte sich insbesondere unter Geltung von <ref-ruling> einer Kostentragung für zusätzlich angeordnete Abklärungsmassnahmen durch einen Rückweisungsentscheid generell entledigen und die IV-Stellen diesfalls nur im Falle eines Gerichtsgutachtens rügen könnten, sie seien mangels Verletzung der Abklärungspflicht gemäss <ref-law> von der Kostentragung zu befreien.
7.2.2. In der Terminologie der ZPO umfassen die Prozesskosten sowohl die Gerichtskosten als auch die Parteientschädigung (Art. 95 Abs. 1 lit. a und b ZPO). Sie werden nach Massgabe der in Art. 106 bis 109 ZPO enthaltenen Grundsätzen verteilt, unter Vorbehalt der besonderen Kostenregelungen in Art. 113 bis 116 ZPO (<ref-ruling> E. 3.1 S. 473). Gemäss der Grundnorm von <ref-law> werden die Prozesskosten der unterliegenden Partei auferlegt. <ref-law> regelt sodann verschiedene Konstellationen, in denen von der Grundregel abgewichen werden kann und die Prozesskosten nach Ermessen verteilt werden. Insbesondere sieht <ref-law> vor, dass Gerichtskosten, die weder eine Partei noch Dritte veranlasst haben, aus Billigkeitsgründen dem Kanton auferlegt werden können.
7.2.2.1. Wie die Vorinstanz in ihrer Stellungnahme richtig andeutet, ist es fraglich, inwiefern die Kosten eines (Administrativ-) Gutachtens, das ausserhalb eines Rechtsmittelverfahrens erstellt wurde, überhaupt zu den in <ref-law> erwähnten Gerichtskosten zählen können. Die in <ref-law> erwähnten "Kosten der Beweisführung" betreffen die Auslagen eines Gerichts für die Erhebung von Beweismitteln, namentlich die Einholung von Gutachten (BENEDIKT SUTER/CRISTINA VON HOLZEN, in: Kommentar zur Schweizerischen Zivilprozessordnung [ZPO], 3. Aufl. 2016, N. 23 zu <ref-law>). Auch ist zu berücksichtigen, dass die in <ref-law> stipulierte Möglichkeit einer Auferlegung der Gerichtskosten an den Kanton keinen Anspruch der Parteien darstellt (JENNY, a.a.O., N. 25 zu <ref-law>).
7.2.2.2. Entscheidend ist aber, dass es gemäss der Rechtsprechung zu <ref-law> nicht zu genügen vermag, dass dem Gericht - womit die erste gerichtliche Instanz gemeint ist - Fehler unterlaufen sind. Zu einem derartigen Schluss gelangen die Rechtsmittelinstanzen regelmässig, ansonsten keine Kassationen und Rückweisungen erfolgen würden. Vielmehr kommt die Kostenauflage an den Kanton aus Billigkeitsgründen nur in Betracht bei eigentlichen "Justizpannen" (Urteile 5A_737/2016 vom 27. März 2017 E. 2.3, 4A_364/2013 vom 5. März 2014 E. 15.4 am Ende und 5A_104/2012 vom 11. Mai 2012 E. 4.4.2 am Ende). Im vorliegenden Fall kann aber in keiner Weise von einer regelrechten "Justizpanne" die Rede sein, sodass die Voraussetzungen des von der Beschwerdeführerin angeführten <ref-law> nicht gegeben sind. Eine Kostenauflage an den Kanton auf der Basis dieser Bestimmung ist nicht gerechtfertigt.
7.2.3. Schliesslich hat nach <ref-law> unnötige Prozesskosten zu bezahlen, wer sie verursacht hat. Das Gesetz statuiert damit für unnötige Kosten das Verursacherprinzip. Eine praktisch gleichlautende Bestimmung enthält bzw. enthielt <ref-law> und Art. 156 Abs. 6 aOG. Die dazu ergangene Rechtsprechung kann bei der Auslegung von <ref-law> berücksichtigt werden (<ref-ruling> E. 2.4.1 S. 429 mit Hinweis auf DENIS TAPPY, in: CPC, Code de procédure civile commenté, 2011, N. 2 zu <ref-law> [nunmehr und im Folgenden: 2. Aufl. 2019, N. 3 zu <ref-law>]).
7.2.3.1. Der Begriff der unnötigen Kosten wird im Gesetz nicht näher umschrieben. Als Beispiele werden Kosten erwähnt, die auf Grund von trölerischen Begehren oder weitschweifigen Eingaben entstehen. Unnötige Kosten - die nicht offensichtlich unnötig sein müssen - sind in erster Linie jene, die durch das Verhalten einer Partei oder Dritter, die nicht Parteien des Prozesses waren, innerhalb des Prozesses zu den üblicherweise bzw. ohnehin entstehenden Prozesskosten zusätzlich hinzukommen. Weitestgehend einig sind sich Lehre und Rechtsprechung aber auch, dass als unnötige Kosten ebenso solche in Frage kommen, die von den Parteien oder von Dritten ausserhalb des Prozesses verursacht wurden, und dass sie auch die gesamten Prozesskosten umfassen können, insbesondere wenn das ganze Verfahren durch ein bestimmtes Verhalten ausserhalb des Prozesses veranlasst wurde (<ref-ruling> E. 2.4.3 S. 430 mit Hinweisen; Urteile 5D_69/2017 vom 14. Juli 2017 E. 3.3.1, 4A_111/2016 vom 24. Juni 2016 E. 4.2 und 4A_111/2016 vom 15. März 2016 E. 4.2).
Das Bundesgericht hat die Frage offen gelassen, ob die allfällige Kostenauflage zulasten einer Drittperson, die nicht Verfahrenspartei im Prozess ist, ein vorwerfbares Verhalten voraussetzt (<ref-ruling> E. 2.4.4 S. 432 f.). Zudem ist in der Lehre umstritten, ob überhaupt eine gerichtliche (Vor-) Instanz Verursacherin unnötiger Kosten und somit Zahlungspflichtige (bzw. für sie der Kanton) im Sinne von <ref-law> sein kann (bejahend: JENNY, a.a.O., N. 7 zu <ref-law>; verneinend: TAPPY, a.a.O, N. 18 zu <ref-law> in Verbindung mit N. 35 zu <ref-law>).
7.2.3.2. Die Antworten auf diese Fragen sind entbehrlich. So oder anders belegen die Vorbringen der Beschwerdeführerin nicht, dass von einer versicherungsgerichtlichen Verursachung unnötiger Prozesskosten im Sinne von <ref-law> auszugehen ist. Die Vorinstanz hatte darüber zu befinden, ob die Aufhebung der Invalidenrente der Versicherten durch die IV-Stelle zu Recht erfolgt war, und diesbezüglich die Beweismittel zu würdigen. Dass sie dabei die von ihr entschiedene Rückweisung zur neuen psychiatrischen Begutachtung unzutreffend begründet hat (E. 5 hiervor), genügt nicht, um anzunehmen, bei Wahrung gehöriger Sorgfalt wären die Kosten vermeidbar gewesen (vgl. MARTIN H. STERCHI, in: Berner Kommentar, Schweizerische Zivilprozessordnung, Bd. I, 2012, N. 1 zu <ref-law>). Auch wenn das kantonale Gericht das Gutachten des Dr. med. B._ vom 29. Januar 2013 in seiner materiellen Würdigung miteinbezogen hätte, ist nicht auszuschliessen, dass es zu einem anderen Ergebnis gelangt wäre als das Bundesgericht. Allenfalls hätte es auch in diesem Fall weitere Instruktionsmassnahmen angeordnet, ohne dass ihm deshalb ungenügende Sorgfalt hätte vorgeworfen werden können. Für das Bundesgericht besteht demnach kein Grund, der Vorinstanz gestützt auf <ref-law> Kosten aufzuerlegen.
8.
Insgesamt ist die Beschwerde teilweise gutzuheissen (E. 6.3.2 hiervor). Ziff. 2 und 4 des Dispositivs des Entscheids vom 22. September 2015 werden aufgehoben und insofern neu gefasst, als die kantonalen Verfahrenskosten (von Fr. 600.-) sowie das Honorar des damaligen unentgeltlichen Rechtsbeistands, Rechtsanwalt Stefan Galligani, in der von der Vorinstanz vorsorglich festgestellten Höhe (von Fr. 2'491.50) im Rahmen der unentgeltlichen Rechtspflege durch die Zentrale Gerichtskasse des Kantons Solothurn bzw. den Kanton Solothurn zu übernehmen sind. Vorbehalten bleibt der Rückforderungsanspruch des Kantons während zehn Jahren, wenn die Beschwerdegegnerin zur Nachzahlung in der Lage ist.
9.
Umständehalber wird auf die Erhebung von Gerichtskosten verzichtet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Die Dispositiv-Ziffern 2 und 4 des Entscheids des Versicherungsgerichts des Kantons Solothurn vom 22. September 2015 werden aufgehoben und wie folgt neu gefasst:
"2. Das Honorar des unentgeltlichen Rechtsbeistands, Rechtsanwalt Stephan Galligani (von Fr. 2'491.60) ist durch die Zentrale Gerichtskasse des Kantons Solothurn zu zahlen. Vorbehalten bleibt der Rückforderungsanspruch des Staates Solothurn während zehn Jahren, wenn A._ zur Nachzahlung in der Lage ist.
4. Die Beschwerdeführerin hat die Verfahrenskosten von Fr. 600.- zu bezahlen, die infolge Bewilligung der unentgeltlichen Rechtspflege durch den Staat Solothurn zu übernehmen sind. Vorbehalten bleibt der Rückforderungsanspruch des Staates Solothurn während zehn Jahren, wenn A._ zur Nachzahlung in der Lage ist. "
Im Übrigen wird die Beschwerde abgewiesen.
2.
Es werden keine Gerichtskosten erhoben.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn, dem Bundesamt für Sozialversicherungen und Rechtsanwalt lic. iur. Stefan Galligani, Schöftland, schriftlich mitgeteilt.
Luzern, 27. Mai 2019
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Die Gerichtsschreiberin: Fleischanderl