Sachverhalt: Sachverhalt: A. Der 1967 geborene kroatische Staatsangehörige T._ absolvierte nach der Grundschule eine dreijährige Lehre zum Elektromechaniker. Er übte diesen Beruf nicht aus, sondern war nach einjährigem Militärdienst im Baugewerbe tätig. Im Jahr 1992 reiste er in die Schweiz ein, wo er bei verschiedenen Bauunternehmungen arbeitete, zuletzt ab 1998 als Maurer/Vorarbeiter bei der D._ AG und ab Anfang 2000 als Schaler bei der S._ GmbH. Bei einem Arbeitsunfall im März 2000 zog er sich Verletzungen zu, welche zu einer Arbeitsunfähigkeit führten. Im Oktober 2000 meldete sich T._ bei der Invalidenversicherung zum Leistungsbezug an. Es folgte ein Aufenthalt in der Rehaklinik X._, wo sich herausstellte, dass dem Versicherten die körperlich schwere Tätigkeit eines Maurers/Schalers gesundheitlich nicht mehr zumutbar ist. Die IV-Stelle des Kantons St. Gallen gewährte dem Versicherten eine zweijährige Umschulung zum Metallarbeiter. T._ trat diese Ausbildung im Mai 2001 an, musste sie indessen im Oktober desselben Jahres wegen gesundheitlichen (physischen und psychischen) Problemen abbrechen. Gemäss dem in der Folge eingeholten MEDAS-Gutachten vom 25. Juli 2002 ist die Arbeitsfähigkeit in den physisch noch zumutbaren leichten bis mittelschweren und der körperlichen Behinderung angepassten Tätigkeiten aus psychischen Gründen um 20 % eingeschränkt. Gestützt auf die Expertise und eine Stellungnahme der eigenen beruflichen Eingliederungsstelle verneinte die IV-Stelle mit Verfügung vom 22. Mai 2003 einen Anspruch des Versicherten auf Invalidenrente und Umschulung. Die von T._ erhobene Einsprache auf Gewährung der Umschulung wies die Verwaltung mit Einspracheentscheid vom 6. August 2003 ab, da die beantragte Leistung unverhältnismässig sei. A. Der 1967 geborene kroatische Staatsangehörige T._ absolvierte nach der Grundschule eine dreijährige Lehre zum Elektromechaniker. Er übte diesen Beruf nicht aus, sondern war nach einjährigem Militärdienst im Baugewerbe tätig. Im Jahr 1992 reiste er in die Schweiz ein, wo er bei verschiedenen Bauunternehmungen arbeitete, zuletzt ab 1998 als Maurer/Vorarbeiter bei der D._ AG und ab Anfang 2000 als Schaler bei der S._ GmbH. Bei einem Arbeitsunfall im März 2000 zog er sich Verletzungen zu, welche zu einer Arbeitsunfähigkeit führten. Im Oktober 2000 meldete sich T._ bei der Invalidenversicherung zum Leistungsbezug an. Es folgte ein Aufenthalt in der Rehaklinik X._, wo sich herausstellte, dass dem Versicherten die körperlich schwere Tätigkeit eines Maurers/Schalers gesundheitlich nicht mehr zumutbar ist. Die IV-Stelle des Kantons St. Gallen gewährte dem Versicherten eine zweijährige Umschulung zum Metallarbeiter. T._ trat diese Ausbildung im Mai 2001 an, musste sie indessen im Oktober desselben Jahres wegen gesundheitlichen (physischen und psychischen) Problemen abbrechen. Gemäss dem in der Folge eingeholten MEDAS-Gutachten vom 25. Juli 2002 ist die Arbeitsfähigkeit in den physisch noch zumutbaren leichten bis mittelschweren und der körperlichen Behinderung angepassten Tätigkeiten aus psychischen Gründen um 20 % eingeschränkt. Gestützt auf die Expertise und eine Stellungnahme der eigenen beruflichen Eingliederungsstelle verneinte die IV-Stelle mit Verfügung vom 22. Mai 2003 einen Anspruch des Versicherten auf Invalidenrente und Umschulung. Die von T._ erhobene Einsprache auf Gewährung der Umschulung wies die Verwaltung mit Einspracheentscheid vom 6. August 2003 ab, da die beantragte Leistung unverhältnismässig sei. B. T._ führte hiegegen Beschwerde. Das Versicherungsgericht des Kantons St. Gallen hiess das Rechtsmittel mit Entscheid vom 20. Januar 2004 gut, indem es, einen Anspruch des Versicherten auf Umschulung grundsätzlich bejahend, den Einspracheentscheid aufhob und die Sache zur Abklärung einer geeigneten Umschulungsmöglichkeit und zur neuen Entscheidung an die Verwaltung zurückwies. B. T._ führte hiegegen Beschwerde. Das Versicherungsgericht des Kantons St. Gallen hiess das Rechtsmittel mit Entscheid vom 20. Januar 2004 gut, indem es, einen Anspruch des Versicherten auf Umschulung grundsätzlich bejahend, den Einspracheentscheid aufhob und die Sache zur Abklärung einer geeigneten Umschulungsmöglichkeit und zur neuen Entscheidung an die Verwaltung zurückwies. C. Die IV-Stelle führt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, in Aufhebung des kantonalen Gerichtsentscheides sei der Einspracheentscheid vom 6. August 2003 zu bestätigen. T._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen. Das Bundesamt für Sozialversicherung hat sich nicht vernehmen lassen