Sachverhalt: A. Die 1988 geborene A._ meldete sich am 8. Mai 2009 unter Hinweis auf Schulterbeschwerden bei der IV-Stelle Solothurn zur Früherfassung und am 12. Juni 2009 zum Leistungsbezug an. Die IV-Stelle sprach ihr ein Job-Coaching zu, verneinte indessen mit Verfügung vom 19. März 2010 einen Anspruch auf weitergehende berufliche Massnahmen oder auf Ausrichtung einer Invalidenrente. Am 23. August 2010 meldete sich A._ unter Hinweis auf einen Velounfall erneut zum Leistungsbezug an. Die IV-Stelle sprach ihr mit Verfügung vom 15. März 2011 unter anderem eine Umschulung zur "Kauffrau E" zu. Für die Zeit vom 1. August 2012 bis 31. Juli 2013 war im Rahmen dieser Umschulung ein Praktikum vorgesehen; dieses wurde indessen per 16. November 2012 abgebrochen. Mit Vorbescheid vom 25. März 2013 stellte die Verwaltung A._ die Abweisung ihrer Leistungsbegehren auf (weitere) berufliche Massnahmen und auf Ausrichtung einer Invalidenrente in Aussicht. Nachdem die Versicherte Einwände erhoben hatte, lehnte die IV-Stelle mit Verfügung vom 24. Juli 2013 das Begehren um Ausrichtung einer Rente ab, sprach der Versicherten jedoch berufliche Massnahmen in Form einer Arbeitsvermittlung zu. Am 9. Januar 2014 wandte sich A._ per E-Mail an den ihr zugeteilten Eingliederungsfachmann und ersuchte um eine Besprechung des weiteren Vorgehens. Diese E-Mail blieb offenbar unbeantwortet; der nächste Kontakt von A._ mit der IV-Stelle erfolgte erst am 3. Juli 2017, als die Versicherte um eine Standortsanalyse ersuchte und darauf hinwies, es sei ihr gelungen, sich selbstständig in den ersten Arbeitsmarkt zu integrieren. Am 23. August 2017 fand bei der IV-Stelle ein "Erstgespräch" statt, wobei die Versicherte um Klärung ersuchte, ob ihre mittlerweile abgeschlossene Ausbildung zur systemischen Arbeitsagogin von der Invalidenversicherung übernommen werde. Tags darauf gingen bei der IV-Stelle verschiedene Unterlagen in diesem Zusammenhang ein. Daraufhin lehnte die IV-Stelle nach Durchführung des Vorbescheidverfahrens das Gesuch der A._ um rückwirkende Kostenübernahme der betreffenden Ausbildung mit Verfügung vom 7. Februar 2018 ab. B. Die von A._ erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 29. Januar 2019 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, die IV-Stelle sei unter Aufhebung des kantonalen Gerichtsentscheides zu verpflichten, die Kosten für die Umschulung zur systemischen Arbeitsagogin zu übernehmen. Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.