Sachverhalt:
A.
A.a. Der 1966 geborene A._ meldete sich am 30. Dezember 2008 erstmals bei der Invalidenversicherung zum Leistungsbezug an unter Hinweis darauf, dass er sich am 3. Dezember 2008 einer Hüfttotalprothesenoperation unterzogen hatte. Da er ab 17. April 2009 wieder voll arbeitsfähig war, verneinte die IV-Stelle des Kantons St. Gallen einen Leistungsanspruch (Mitteilung vom 28. Mai 2009 und Verfügung vom 9. Juli 2009).
A.b. Im Juli 2014 meldete sich A._ erneut zum Leistungsbezug an, wobei er Schmerzen im Rücken und im linken Bein angab. Die IV-Stelle des Kantons St. Gallen klärte die medizinischen und die erwerblichen Verhältnisse ab. In ihrem Auftrag wurde der Versicherte durch die MGSG Medizinisches Gutachtenzentrum Region St. Gallen GmbH, Rorschach, im Beisein einer Dolmetscherin begutachtet (polydisziplinäres orthopädisch-internistisch-psychiatrisches Gutachten vom 14. April 2016). Vorbescheidweise stellte die IV-Stelle dem Versicherten am 14. Juni 2016 die Verneinung eines Rentenanspruches (Invaliditätsgrad: 0 %) in Aussicht, wogegen er Einwand erhob. Am 17. Oktober 2016 verfügte die Verwaltung wie vorbeschieden.
B.
Beschwerdeweise lies A._ beantragen, die Verfügung sei aufzuheben. Es sei ihm ab dem Zeitpunkt der Neuanmeldung mindestens eine Viertelsrente zuzusprechen. Eventualiter sei ein aktuelles bidisziplinäres Gutachten (orthopädisch-psychiatrisch) unter Beizug eines Dolmetschers zu erstellen. Mit Entscheid vom 25. Juni 2019 hiess das Versicherungsgericht des Kantons St. Gallen die Beschwerde teilweise gut. Es hob die angefochtene Verfügung auf und wies die Sache zur Weiterführung des Verwaltungsverfahrens im Sinne der Erwägungen an die IV-Stelle zurück.
C.
Die IV-Stelle lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der kantonale Entscheid sei aufzuheben und die Sache zur Einholung eines Gerichtsgutachtens an das kantonale Versicherungsgericht zurückzuweisen.
A._ lässt die Gutheissung der Beschwerde beantragen. Die Vorinstanz schliesst in ihrer Stellungnahme auf Nichteintreten. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (Art. 29 Abs. 1 BGG; <ref-ruling> E. 1 S. 143; <ref-ruling> E. 1 S. 555, je mit Hinweisen).
1.1. Beim angefochtenen Entscheid handelt es sich um einen Rückweisungsentscheid. Die IV-Stelle wird darin angewiesen, ein orthopädisches und ein psychiatrisches Gutachten einzuholen und anschliessend erneut über den Rentenanspruch zu verfügen. Es liegt mithin ein Zwischenentscheid vor, gegen den die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich nur zulässig ist (Art. 93 Abs. 1 BGG), wenn er einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit und Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
1.2. Vom Grundsatz der Nichtanhandnahme direkter Beschwerden gegen ungerechtfertigte Rückweisungsentscheide mangels Vorliegens der Eintretensvoraussetzungen von Art. 93 Abs. 1 lit. a und b BGG kann jedoch eine Ausnahme gemacht werden, wenn sich zeigt, dass ein Gericht regelmässig entsprechend vorgeht (<ref-ruling> E. 2.5 S. 104 mit Hinweis; vgl. auch Urteile 8C_468/2018 vom 6. Dezember 2018 E. 1.2; 8C_580/2017 vom 9. Februar 2018 E. 3.2, in: SVR 2018 IV Nr. 26 S. 83; 8C_929/2014 vom 13. April 2015 E. 4.4, in: SVR 2015 IV Nr. 29 S. 89).
1.3. Anders als in früheren Verfahren (Urteile 8C_468/2018 vom 6. Dezember 2018 E. 1.2 und 8C_580/2017 vom 9. Februar 2018 E. 3.2) räumt das Versicherungsgericht des Kantons St. Gallen ein solches Vorgehen weder im angefochtenen Entscheid noch in seiner Stellungnahme vom 11. September 2019 ein. Im letztinstanzlichen Verfahren stellt es in Abrede, dass es sich "konsequent weigere, Gerichtsgutachten anzuordnen", wie die IV-Stelle behaupte; es weist darauf hin, dass es in den Jahren 2018/2019 zehn Gerichtsgutachten in Auftrag gegeben habe und weitere Gutachtensaufträge in Vorbereitung seien. Dieses Vorbringen ist unbehelflich, weil es nichts daran ändert, dass sich der hier angefochtene Entscheid in eine Reihe anderer einfügt, in welchen das kantonale Gericht (damals noch explizit) deutlich gemacht hat, dass es sich nicht an die bundesgerichtliche Rechtsprechung halten will, sondern es vorzieht, in den Fällen, in welchen es selber ein Gerichtsgutachten einholen müsste, die Sache zur gutachterlichen Abklärung an die Verwaltung zurückzuweisen. Dass das kantonale Gericht im angefochtenen Entscheid seine abweichende Praxis, für welche es vom Bundesgericht bereits in den Urteilen 8C_468/2018 vom 6. Dezember 2018 E. 1.2 und 8C_580/2017 vom 9. Februar 2018 E. 3.2 gerügt worden ist, unbeirrt fortsetzt, rechtfertigt es auch hier, vom Grundsatz der Nichtanhandnahme direkter Beschwerden gegen ungerechtfertigte Rückweisungsentscheide eine Ausnahme zu machen und auf die vorliegende Beschwerde einzutreten.
2.
Streitig und zu prüfen ist, ob die Vorinstanz mit der Rückweisung der Sache an die IV-Stelle zur erneuten Begutachtung und anschliessenden Neuverfügung Bundesrecht verletzt hat.
2.1. Die Beschwerdeinstanz hat gemäss bundesgerichtlicher Rechtsprechung in der Regel ein Gerichtsgutachten einzuholen, wenn sie im Rahmen der Beweiswürdigung zum Schluss kommt, ein bereits erhobener medizinischer Sachverhalt müsse (insgesamt oder in wesentlichen Teilen) noch gutachterlich geklärt werden oder eine Administrativexpertise sei in einem rechtserheblichen Punkt nicht beweiskräftig. Eine Rückweisung an die IV-Stelle ist hingegen zulässig, wenn es darum geht, zu einer bisher vollständig ungeklärten Frage ein Gutachten einzuholen, oder wenn lediglich eine Klarstellung, Präzisierung oder Ergänzung von gutachterlichen Ausführungen erforderlich ist (<ref-ruling> E. 1.1 S. 100; <ref-ruling> E. 4.4.1.4 S. 264 f.).
2.2. Die Rechtsprechung, wonach die Gerichte die Einholung eines Gutachtens bei festgestellter Abklärungsbedürftigkeit nicht ohne Not durch Rückweisung an die Verwaltung delegieren dürfen, beruht auf dem Gebot der Verfahrensfairness sowie auf den Vorteilen von Gerichtsgutachten bezüglich Straffung des Gesamtverfahrens und beschleunigter Rechtsgewährung. Die direkte Durchführung der Beweismassnahme durch die Beschwerdeinstanz mindert sodann das Risiko von - für die öffentliche Hand und die versicherte Person - unzumutbaren multiplen Begutachtungen. Schliesslich verhält sich die Einschränkung der Befugnis der Sozialversicherungsgerichte, eine Streitsache zur neuen Begutachtung an die Verwaltung zurückzuweisen, komplementär zu den Mitwirkungsrechten der versicherten Person im Zusammenhang mit der Anordnung eines Administrativgutachtens gemäss Art. 44 ATSG. Letztere tragen zur Chancengleichheit bei, derweil das Gebot, im Falle einer Beanstandung des Administrativgutachtens eine Gerichtsexpertise einzuholen, die Waffengleichheit im Prozess gewährleistet, wo dies nach der konkreten Beweislage angezeigt ist (BGE <ref-ruling> E. 4.4.1.1-4.4.1.3 S. 263 f.; vgl. auch Urteile 8C_468/2018 vom 6. Dezember 2018 E. 2.2 und 8C_580/2017 vom 9. Februar 2018 E. 4.2).
3.
3.1. Nach Würdigung der Aktenlage gelangte das kantonale Gericht zum Ergebnis, das von der IV-Stelle eingeholte polydisziplinäre MGSG-Gutachten vom 14. April 2016 vermöge nicht zu überzeugen. Betreffend den orthopädischen Teil sei es teilweise unvollständig und insgesamt "nicht ausreichend schlüssig". Es sei angezeigt, ein neues orthopädisches Gutachten einzuholen. Was den psychiatrischen Teil des MGSG-Gutachtens vom 14. April 2016 anbelange, so habe die IV-Stelle mit Blick auf die Rechtsprechung gemäss <ref-ruling> einen Einfluss der darin diagnostizierten depressiven Störung auf die Arbeitsfähigkeit in unzulässiger Weise verneint. Zudem hätte die Verwaltung bei Zweifeln an der darin ebenfalls diagnostizierten Persönlichkeitsstörung weitere Abklärungen treffen müssen. Es sei deshalb ein neues psychiatrisches Gutachten anzuordnen, welches den psychischen Gesundheitszustand des Versicherten als Ganzes beurteile.
3.2. Bei dieser Sachlage ist unstreitig weder von einer bisher vollständig ungeklärten Frage noch von der Notwendigkeit einer Klarstellung, Präzisierung oder Ergänzung von gutachterlichen Ausführungen auszugehen, welche Umstände rechtsprechungsgemäss die Möglichkeit der Rückweisung an die IV-Stelle eröffnen würden (<ref-ruling> E. 1.1 S. 100; <ref-ruling> E. 4.4.1.4 S. 264). Der medizinische Sachverhalt wurde im Verwaltungsverfahren eingehend abgeklärt: Die IV-Stelle zog Berichte der behandelnden Ärzte sowie eine Stellungnahme ihres Regionalen Ärztlichen Dienstes bei. Weiter holte sie ein polydisziplinäres Gutachten ein, welches zwar vor der Rechtsprechungsänderung gemäss <ref-ruling> und 418 erstellt worden ist, dadurch aber nicht per se seinen Beweiswert verloren hat (vgl. Urteil 8C_703/2018 vom 13. Juni 2019 E. 2.2.2). Wenn das kantonale Gericht den Sachverhalt dennoch für nicht rechtsgenüglich abgeklärt und die Einholung weiterer Gutachten (eines orthopädischen und eines psychiatrischen) für angezeigt hält, muss es selbst aktiv werden und ein Gerichtsgutachten anordnen. Indem es die Sache stattdessen zur Einholung von zwei weiteren Gutachten an die IV-Stelle zurückweist, verletzt es die von der Rechtsprechung statuierten, in E. 2.1 sowie 2.2 dargelegten Grundsätze zur Anordnung eines Gerichtsgutachtens und damit Bundesrecht. Der angefochtene Entscheid ist deshalb aufzuheben und die Sache zur Einholung eines Gerichtsgutachtens an die Vorinstanz zurückzuweisen.
4.
Das Verfahren ist kostenpflichtig. Die Gerichtskosten hat grundsätzlich die unterliegende Partei zu tragen (Art. 66 Abs. 1 Satz 1 BGG; <ref-ruling>). Unnötige Kosten hat indessen zu bezahlen, wer sie verursacht (Art. 66 Abs. 3 BGG). Dies erlaubt es, die Gerichtskosten ausnahmsweise der Vorinstanz bzw. dem Gemeinwesen, dem sie angehört, aufzuerlegen. Mit seiner systematischen Missachtung der hier anwendbaren bundesgerichtlichen Rechtsprechung hat das kantonale Versicherungsgericht die IV-Stelle (einmal mehr) zur Beschwerdeerhebung gezwungen, was zu einer unnötigen Verlängerung des Verfahrens führte. Aus diesem Grund sind die Gerichtskosten dem Kanton St. Gallen zu überbinden (vgl. Urteile 8C_468/2018 vom 6. Dezember 2018 E. 5 und 8C_525/2018 vom 16. November 2018 E. 5.1).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen und der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 25. Juni 2019 aufgehoben. Die Sache wird an die Vorinstanz zurückgewiesen, damit sie im Sinne der Erwägungen verfahre und über die Beschwerde neu entscheide.
2.
Die Gerichtskosten von Fr. 800.- werden dem Kanton St. Gallen auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, Abteilung II, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. September 2019
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Die Gerichtsschreiberin: Keel Baumann