Sachverhalt: A. A.a. Der 1960 geborene A._ war seit 1984 als Grenzwächter bei der Eidgenössischen Oberzolldirektion tätig und dadurch bei der Schweizerischen Unfallversicherungsanstalt (SUVA) gegen die Folgen von Unfällen versichert. Laut Bagatellunfallmeldung vom 18. Juni 2007 stolperte A._ am 7. Mai 2007 beim Hinuntersteigen einer Kellertreppe über ein Kabel, stürzte und schlug sich die rechte Schulter an. Die SUVA kam für die Heilungskosten der sich dabei zugezogenen Schulterbeschwerden auf. A.b. Am 27. März 2012 meldete die Oberzolldirektion der SUVA einen Rückfall zum Unfallereignis vom 7. Mai 2007. Der Hausarzt Dr. med. B._, FMH für Innere Medizin, stellte im Arztzeugnis UVG vom 17. April 2012 als Befund Schmerzen in der rechten Schulter bei Abduktion sowie Aussenrotation fest und diagnostizierte bei unauffälligem Röntgenbefund chronische Schulterbeschwerden im Sinne einer Frozen Shoulder nach Trauma. Er verneinte eine Arbeitsunfähigkeit und bejahte das ausschliessliche Vorliegen von Unfallfolgen. Nach einer Kurzbeurteilung mit Verneinung einer mindestens wahrscheinlichen Rückfallkausalität durch SUVA-Kreisarzt Prof. Dr. med. C._, Facharzt für Orthopädie und Unfallchirurgie FMH, vom 8. Juni 2012, teilte die SUVA A._ mit Schreiben vom 11. Juni 2012 mit, dass sie nicht leistungspflichtig sei. Nach Eingang einer Stellungnahme des Versicherten zur Leistungsablehnung vom 3. Juli 2012 holte die SUVA eine ausführliche Beurteilung des Prof. Dr. med. C._ vom 17. Juli 2012 ein. Sie teilte A._ gestützt darauf mit Verfügung vom 2. November 2012 mit, dass sie nicht leistungspflichtig sei, weil zwischen dem Unfallereignis vom 7. Mai 2007 und den gemeldeten Schulterbeschwerden kein sicherer oder wahrscheinlicher Kausalzusammenhang bestehe. An ihrem Standpunkt hielt die SUVA mit Einspracheentscheid vom 5. Februar 2013 fest. B. Beschwerdeweise liess A._ beantragen, in Aufhebung des Einspracheentscheides sei die SUVA anzuweisen, die Kosten für Pflegeleistungen, namentlich für die Physiotherapie, das Mineralheilbad und eine allfällige Operation zu übernehmen. Mit der Beschwerde liess A._ einen Untersuchungsbericht des Dr. med. D._, FMH Orthopädische Chirurgie und Traumatologie, vom 1. März 2013 einreichen. Auf ihr Ersuchen hin wurden der SUVA das im Untersuchungsbericht erwähnte, aktuell angefertigte Röntgenbild vom 28. Februar 2013 sowie frühere Röntgenbilder ediert. Mit Beschwerdeantwort beantragte die SUVA die Abweisung der Beschwerde. Sie stützte sich dabei auf eine Beurteilung des PD Dr. med. E._, Facharzt für Orthopädische Chirurgie FMH, Abteilung Versicherungsmedizin der SUVA, vom 30. Juli 2013. Mit Replik und Duplik hielten die Parteien an ihren Anträgen fest. Das Versicherungsgericht des Kantons St. Gallen wies die Beschwerde mit Entscheid vom 4. März 2014 ab, sprach dem Versicherten jedoch zu Lasten der SUVA eine Parteientschädigung zu. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die SUVA die Aufhebung von Ziff. 3 des Rechtspruchs des vorinstanzlichen Entscheids vom 4. März 2014. Das Versicherungsgericht des Kantons St. Gallen und A._ schliessen auf Abweisung der Beschwerde. Das Bundesamt für Gesundheit verzichtet auf eine Vernehmlassung.