UWG, hat sich ergeben:
A.- Rudolf Jäger (Kläger) befasst sich mit der Produktion und dem Vertrieb von Gemeinde-Agenden, die werbefinanziert sind und unentgeltlich an alle Haushaltungen abgegeben werden. Die Agenden enthalten unter anderem Hinweise auf Veranstaltungen, Termine sowie Adressen und Telefonnummern von Behörden und Vereinen. Nach der Darstellung des Klägers entstehen diese Agenden in der Regel in Zusammenarbeit mit den Gemeinden und den lokalen Gewerbevereinen, welche die gewünschten Daten zur Verfügung stellen.
Die Sarganserländer Druck AG (Beklagte) ist ein Druck- und Verlagsunternehmen, das unter anderem die fünfmal wöchentlich erscheinende Zeitung "Sarganserländer" herausgibt.
Der "Sarganserländer" ist amtliches Publikationsorgan für den Bezirk Sargans und die angrenzenden Gebiete.
Nachdem Ende 1996 die vom Kläger erstellten Agenden 1997 in den Gemeinden Vilters-Wangs/Mels und Bad Ragaz/ Pfäfers zur Verteilung gelangt waren, erschien in der am 18. Februar 1997 in einer Grossauflage mit einer Streuung von 16'684 in alle Haushaltungen des Bezirks Sargans verteilten Ausgabe auf der Frontseite des "Sarganserländer" ein Artikel unter dem Titel "Die Inserenten geprellt?". Die Verfasserin dieses Artikels schrieb nach dem Untertitel "Gratis-Agenda 97 für Vilters-Wangs und Mels enthält falsche Daten" als Einleitung Folgendes: "Ende des vergangenen Jahres wurde an alle Haushalte von Vilters-Wangs und Mels kostenlos eine Agenda verteilt. Benützt wird sie aber offenbar wenig. Haben die Inserenten einen Flop finanziert?". Im anschliessenden Text wurde sodann erklärt, die Gratisagenda habe bei etlichen Empfängern Unmut erweckt und einige seien empört darüber gewesen, dass die Gemeinden in einer Zeit des Sparens einen solchen Kalender verteilten, der in den meisten Fällen doch in den Papierkorb wandere, weil er unrichtige und unvollständige Daten enthalte. Das Büchlein sei jedoch, entgegen dem fälschlicherweise erweckten Eindruck, von einer privaten Firma erstellt und verteilt worden. Eine Überprüfung der darin enthaltenen Daten habe ergeben, dass die "Angaben lückenhaft und teilweise völlig falsch (seien).
So wäre beispielsweise nach dem Kalender am 16. Januar eine Altpapiersammlung vorgesehen gewesen, und bereits am 1. und
2. Februar hätte ein Abstimmungswochenende sein sollen - beides hat nicht stattgefunden. Am 25. März wird zwar die Bürgergemeindeversammlung von Vilters-Wangs, nicht aber die von Mels abgehalten. Und so ziehen sich die Fehler durchs ganze Jahr.. "
Der Zeitungsartikel wies darauf hin, dass nach Auskunft des Herstellers der Agenda "ein Inserat im Innenteil 450 Franken, diejenigen auf den Umschlagseiten sogar 600 Franken" kosteten. "Allein über den Inserateverkauf wurden über 30'000 Franken eingenommen. So verwundert nicht, dass der Hersteller schreibt: `wir danken all unseren Inserenten für ihre grosszügige Unterstützung'. Er sieht es offensichtlich als grosszügige Geste ihm gegenüber, dass Firmen eine Annonce aufgegeben haben. ..". Der Bericht erklärte ferner, es sei davon auszugehen, "dass ... mit einem derart fehlerhaft erstellten Werk die Leute verärgert werden". Der Nutzen für die Inserenten sei fraglich, "wenn der Kalender in den meisten Fällen dem Altpapier zugeführt wird". Der "Sarganserländer" habe sich "bei fünfzig zufällig ausgewählten Adressen in Mels und Vilters-Wangs erkundigt. 42 Prozent der Befragten können sich nicht erinnern, das Büchlein erhalten zu haben. Sie hätten es wahrscheinlich weggeworfen, war zu hören. 44 Prozent besitzen die Agenda noch, aber sie benützen sie nicht oder haben sie weggeworfen, weil sie ihnen unzweckmässig erschien. Nur gerade 14 Prozent konnten ausgemacht werden, die den Terminkalender regelmässig nutzen.
Hochgerechnet muss davon ausgegangen werden, dass von den rund 4'000 Exemplaren, die verteilt wurden, nur etwa 560 Kalender ihren Zweck erfüllen. Bei einem derart grossen Streuverlust darf man sich nicht wundern, wenn die Annoncen nicht die gewünschte Beachtung finden.. "
B.- Am 22. März 1999 reichte der Kläger beim Handelsgericht des Kantons St. Gallen das Begehren ein, die Beklagte sei zur Zahlung von Fr. 63'875.-- zu verurteilen. Die Klageforderung wurde in der Replik auf Fr. 55'675.-- nebst Zins reduziert. Der Kläger hielt an seinem zuvor in der Korrespondenz mit der Beklagten geäusserten Vorwurf fest, dass der Zeitungsartikel vom 18. Februar 1997 unausgewogen gewesen sei und sich auf eine überzogene, teilweise unwahre Kritik beschränkt habe. Er vertrat die Ansicht, der Artikel sei vor allem im Gesamtbild unlauter gewesen.
Das Handelsgericht des Kantons St. Gallen wies die Klage mit Urteil vom 5. Mai 2000 ab. Es kam zum Schluss, dass der Zeitungsbericht entgegen der Meinung des Klägers nicht in einer übertriebenen und teilweise unwahren Kritik bestehe, auch wenn er insgesamt ein negatives Bild vermittle.
Die Kritik sei im Rahmen der öffentlichen Berichterstattung noch nicht an sich unlauter und es stelle sich einzig die Frage, ob die Überschrift mit der Frage, ob die "Inserenten geprellt" seien, unnötig pointiert und übertrieben erscheine. Nach Auffassung des Gerichts ging der Artikel zwar an die Grenze dessen, was noch als zulässig im Sinne des Wettbewerbsgesetzes (<ref-law>) angesehen werden könne, da er die im Titel gestellte Frage jedenfalls nicht verneine, aber auch andrerseits keinerlei Fakten dafür liefere, dass dem Kläger in irgendeiner Weise Prellerei vorgeworfen werden könne. Im Übrigen hielt das Gericht auch den adäquaten Kausalzusammenhang zwischen dem allfälligen Wettbewerbsverstoss und dem eingeklagten Schaden nicht für gegeben.
C.- Mit Berufung vom 30. Juni 2000 verlangt der Kläger die Aufhebung des Urteils des Handelsgerichts des Kantons St. Gallen vom 5. Mai 2000 und die Rückweisung an die Vorinstanz zur Neubeurteilung der Sache. Er macht die Verletzung von <ref-law> geltend und hält daran fest, dass der Zeitungsartikel ihn, sein Werk und seine Leistungen durch unrichtige, irreführende und unnötig verletzende Äusserungen diskreditiere.
Die Beklagte schliesst in der Antwort auf Abweisung der Berufung und Bestätigung des angefochtenen Entscheides.

Das Bundesgericht zieht in Erwägung:
1.- Da dem angefochtenen Urteil keine Feststellungen zum Umfang des geltend gemachten Schadens entnommen werden können und das Bundesgericht auch im Falle der Gutheissung der Berufung kein Sachurteil fällen könnte, genügt im vorliegenden Fall der Antrag auf Rückweisung der Sache an die Vorinstanz (<ref-ruling> E. 1b S. 414).
2.- Der Kläger rügt, das Handelsgericht habe den Titel des umstrittenen Zeitungsartikels zu Unrecht nicht als wettbewerbswidrig qualifiziert und es habe verkannt, dass im Textteil konsequent versucht worden sei, den im Titel erhobenen Vorwurf des Betruges zu wiederholen. Er bringt in dieser Hinsicht vor, im Haupttitel ("Die Inserenten geprellt?") werde ein Betrugsverdacht gegen ihn geäussert, der ihn persönlich herabsetze. Auch mache der Ausdruck "Flop" im Vorspann des Artikels sein Produkt verächtlich. Die Vorinstanz überschätze den Durchschnittsleser, wenn sie den Titel im Licht des nachfolgenden Textes interpretiere. Der durchschnittliche Leser orientiere sich hauptsächlich an den Titeln und verstehe den anschliessenden Text so, wie ihm dies der Titel verheisse. Dort werde der Kläger jedoch als potentieller Betrüger dargestellt, obwohl der Textteil - wie die Vorinstanz selbst feststelle - keinerlei Fakten dafür liefere, dass ihm in irgendeiner Weise Prellerei vorgeworfen werden könne. Im Gegenteil werde auch im Textteil ein pointiert kritisches Bild ohne eine einzige positive Feststellung gezeichnet.
Zudem werde der Eindruck erweckt, der Inserent bezahle überzogene Preise.
a) Unlauter und widerrechtlich ist jedes täuschende oder in anderer Weise gegen den Grundsatz von Treu und Glauben verstossende Verhalten oder Geschäftsgebaren, welches das Verhältnis zwischen Mitbewerbern oder zwischen Anbietern und Abnehmern beeinflusst (<ref-law>). Insbesondere handelt unlauter, wer andere, ihre Waren, Werke, Leistungen, deren Preise oder ihre Geschäftsverhältnisse durch unrichtige, irreführende oder unnötig verletzende Äusserungen herabsetzt (<ref-law>). Eine Herabsetzung als solche ist nicht unlauter. Nur wenn die Herabsetzung durch eine unrichtige, irreführende oder unnötig verletzende Äusserung erfolgt, liegt unlauterer Wettbewerb vor (Pedrazzini, Unlauterer Wettbewerb, 1992, S. 74). Mit <ref-law> wird der Tatbestand der Herabsetzung oder der sogenannten Anschwärzung umschrieben. Herabsetzend ist eine Äusserung dann, wenn sie den anderen, seine Waren etc. verächtlich macht, wofür nicht jede negative Aussage genügt. Diese muss vielmehr, ähnlich wie die herabsetzende Äusserung bei der Ehrverletzung gegenüber einer Person, eine gewisse Schwere aufweisen und beispielsweise ein Erzeugnis als wertlos, seinen Preis nicht wert, unbrauchbar, fehlerhaft oder schadhaft hinstellen (<ref-ruling> E. 2c S. 36). Dabei können journalistische Ungenauigkeiten und Vereinfachungen in Presseberichten dann eine Wettbewerbswidrigkeit begründen, wenn sie die Leserschaft in Bezug auf Tatsachen, die einen wesentlichen Einfluss auf die wirtschaftliche Ehre eines Wettbewerbsteilnehmers haben, zu unzutreffenden Vorstellungen verleiten (<ref-ruling> E. 2a S. 363). Unnötig verletzend ist eine Äusserung, wenn sie angesichts des Sachverhalts, der damit beschrieben oder bewertet werden soll, weit über das Ziel hinaus schiesst, völlig sachfremd oder unsachlich, mithin unhaltbar ist (BGE vom 13.12.1994 publ. in SMI 1995 II 438 E. 2c/aa; Pedrazzini, a.a.O., S. 75; Streuli-Youssef, SIWR V/1, 1998, S. 119 ff., S. 124).
b) Welcher Sinn einer in einem Zeitungsartikel enthaltenen Äusserung in deren Gesamtzusammenhang zukommt, bestimmt sich nach dem Eindruck des unbefangenen Durchschnittslesers und ist eine Rechtsfrage (<ref-ruling> E. 3a S. 213; <ref-ruling> E. 4 S. 100; <ref-ruling> E. 3a/bb S. 164; <ref-ruling> E. 3 S. 198). Es kann daher nicht darauf abgestellt werden, ob einzelne Leser bzw. Kunden des Klägers den umstrittenen Text allenfalls in einer vom objektivierten Durchschnitt der Leserschaft abweichenden Weise aufgefasst haben. Auf die Wahrnehmung bestimmter Einzelpersonen kommt es in diesem Zusammenhang nicht entscheidend an. Die Einvernahme von Zeugen ist daher auch nicht geeignet, die Wahrnehmung des Bedeutungsgehalts des durchschnittlichen Lesers zu erhellen. <ref-law> gibt einer Partei aber allein Anspruch darauf, für Sachvorbringen zum Beweis zugelassen zu werden, die das Urteil zu beeinflussen vermögen (<ref-ruling> E. 2b S. 40). Wenn die Vorinstanz davon ausging, das konkrete Verständnis der Kunden des Klägers vermöge zur Entscheidung der Rechtsfrage nichts beizutragen, ob der objektivierte Bedeutungsgehalt des Textes aus Sicht des durchschnittlichen Lesers die Grenze der zulässigen Kritik sprenge und insbesondere die Wettbewerbsposition des Klägers durch rechtswidrige Herabsetzung seiner Person oder seiner Waren beeinträchtige, hat sie Bundesrechtsnormen nicht verkannt und <ref-law> nicht verletzt.
c) Der Ausdruck "Prellerei" wird zwar in deutschen Wörterbüchern teilweise mit Betrug gleichgesetzt (vgl. Duden, Das grosse Wörterbuch 5) oder als Unterfall des Betruges, besonders an Gastwirten, bezeichnet (so Brockhaus). Zum Verb "prellen" findet sich - neben hier nicht interessierenden Bedeutungen - der Ausdruck "jemanden um etwas ihm Zustehendes bringen/betrügen, z.B. jemanden um sein Erbe, Honorar, um die Belohnung prellen" (Duden). Für das schweizerische Verständnis wird dagegen auf die Zechprellerei als besonderen Tatbestand hingewiesen (Brockhaus). Im "Schweizer Lexikon" (Zürich 1948) wird die Prellerei umschrieben als "strafbare Handlung gegen das Vermögen; Erschleichung einer Leistung, ohne Entgelt dafür zu bezahlen; bes. bei Automaten, Benützung von Transportmitteln oder Teilnahme an einer Veranstaltung. Im Gegensatz zum Betrug wird keine Täuschungshandlung vorausgesetzt. " Ähnlich wird Prellerei für das österreichische Recht mit dem heutigen Erschleichen einer Leistung gleichgesetzt (vgl. Meyers Enzyklopädisches Lexikon). Der Ausdruck "prellen" ist umgangssprachlich für die Leserschaft in der Schweiz mit "betrügen" nicht gleichzusetzen; in seiner strafrechtlichen Bedeutung im Zusammenhang mit "Zechprellerei" wird er auch im allgemeinen Publikum weniger gravierend empfunden als der Betrug. In der geläufigeren Redewendung "jemanden um etwas prellen" steht die objektive Vorstellung im Vordergrund, dass der Geprellte um etwas gebracht wird, das ihm zusteht. Der subjektive Vorwurf an den Täter ist darin deutlich weniger vorhanden als beim Betrug. Von dem oder den Geprellten ist im Alltag (wohl etwas herablassend oder mitleidig) die Rede. Der Ausdruck "Preller" dürfte jedoch, im Gegensatz zum "Betrüger", kaum je verwendet werden. Dem Kläger kann daher nicht gefolgt werden, wenn er "prellen" mit "betrügen" gleichsetzt und daraus einen gegen ihn persönlich gerichteten Betrugsvorwurf ableitet.
d) Mit der Frage, ob "die Inserenten geprellt" seien, wird im Titel des umstrittenen Artikels unterstellt, die Betroffenen seien um die ihnen vom Kläger zu erbringende (volle) Gegenleistung gebracht worden. Es wird damit deutlich zum Ausdruck gebracht, dass die Leistung des Klägers ihren Preis nicht wert sei. Die Frage, ob die Inserenten einen Flop finanziert hätten, bestätigt und unterstreicht nochmals die im Haupttitel sinngemäss aufgestellte Behauptung, die Inserenten hätten mit der vom Kläger herausgegebenen Agenda ein Produkt bezahlt bzw. überzahlt, das seinen Preis nicht wert sei. Dieser Vorwurf wird dann allerdings teilweise bereits im Untertitel durch die Ausführung konkretisiert, die Gratisagenda 97 für Vilters-Wangs und Mels enthalte falsche Daten. Ausserdem wird schon im Vorspann behauptet, die kostenlos an alle Haushalte verteilte Agenda werde offenbar wenig benutzt. Diese Behauptungen werden im Textteil detaillierter dargestellt und sind nach den Feststellungen der Vorinstanz als solche zutreffend. Die im Artikel sinngemäss zum Ausdruck gebrachte Meinung, die werbefinanzierte Agenda sei ihren Preis nicht wert, ist insofern weder unrichtig noch irreführend. Der Kläger hält jedoch den Vorwurf der Prellerei im Sinne eines strafbaren Verhaltens für unwahr. Soweit er Prellerei mit Betrug gleichsetzt und daraus einen gegen ihn persönlich gerichteten Betrugsvorwurf ableitet, kann ihm wie erwähnt nicht gefolgt werden. Immerhin zieht sich der im Haupttitel erhobene Vorwurf der Prellerei durch den gesamten Artikel, indem sinngemäss die Behauptung wiederholt wird, der Kläger erschleiche bei den Inserenten eine Leistung, ohne die dafür versprochene Gegenleistung zu erbringen (unterstrichen nicht nur durch den vom Kläger beanstandeten Ausdruck "Flop", sondern auch durch die Passage im Text, wonach er in der Agenda schreibe:"'wir danken all unseren Inserenten für ihre grosszügige Unterstützung'.
Er sieht es offenbar als grosszügige Geste ihm gegenüber. ..").
e) Die Kritik an der vom Kläger herausgegebenen Gratisagenda ist, soweit sie im umstrittenen Artikel mit konkreten Behauptungen begründet wird, nach den Feststellungen der Vorinstanz weder unwahr noch irreführend. Die Folgerung, dass die Inserenten namentlich angesichts der festgestellten Fehler zu viel dafür bezahlt hätten, ist daher auch wettbewerbsrechtlich nicht zu beanstanden. Fragen kann sich allein, ob der Tatbestand der Herabsetzung von <ref-law> deshalb erfüllt sei, weil die Kritik an der vom Kläger herausgegebenen Gratisagenda in unnötig verletzender Weise geäussert wird. In dieser Hinsicht ist der Vorinstanz beizupflichten, dass der Vorwurf der Prellerei - der immerhin auch ein subjektiv unredliches Verhalten des Klägers miteinschliesst - an sich zu weit geht. Um jedoch als unnötig verletzend im Sinne von <ref-law> qualifiziert zu werden, müsste die Kritik nicht nur überzeichnet sein, sondern weit über das Ziel hinaus schiessen, völlig sachfremd oder unsachlich, mithin geradezu unhaltbar sein (vgl. E. 2a). Mit der Vorinstanz ist der beanstandete Artikel als Grenzfall zu bezeichnen. Die Kritik an der Agenda des Klägers ist nach den Feststellungen im angefochtenen Urteil jedoch insoweit berechtigt, als sie mit zutreffenden Behauptungen objektiviert wird. Für den unbefangenen Leser ist daher durchaus nachvollziehbar, worauf die Kritik sachlich beruht. Dass sie in den Folgerungen überzeichnet und zu massiv ausgefallen ist, genügt deshalb gerade noch nicht, um den Tatbestand der Anschwärzung zu erfüllen. Inwiefern daran etwas ändern sollte, dass die Beklagte nach der Behauptung des Klägers in Konkurrenz um die Werbeaufwendungen der Inserenten steht, welche im Artikel als die Geprellten dargestellt werden, ist der Berufung nicht zu entnehmen. Die in diesem Zusammenhang erhobene Rüge der Verletzung von <ref-law> ist aber bereits deshalb nicht zu hören, weil der Kläger diesbezüglich keine Sachvorbringen und auch keine Beweise nennt, die von der Vorinstanz nicht berücksichtigt worden sein sollen.
3.- Die Berufung ist abzuweisen und das angefochtene Urteil zu bestätigen. Dem Verfahrensausgang entsprechend hat der Kläger die Gerichtsgebühr zu bezahlen und der Beklagten die Parteikosten zu ersetzen.

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und das Urteil des Handelsgerichts des Kantons St. Gallen vom 5. Mai 2000 bestätigt.
2.- Die Gerichtsgebühr von Fr. 2'500.-- wird dem Kläger auferlegt.
3.- Der Kläger hat die Beklagte für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons St. Gallen schriftlich mitgeteilt.
_
Lausanne, 13. September 2000
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: