Markenrecht; UWG, hat sich ergeben:
A.- Die Kuoni Reisen Holding AG (im Folgenden: Kuoni) ist Inhaberin der schweizerischen Wortmarke Nr. 413519 sowie der schweizerischen Wort-/Bildmarke Nr. 411262 "HELVETIC TOURS" mit Gebrauchspriorität seit 1982. Beide Marken sind in den Klassen 39 (Transport und Reiseveranstaltungen etc.) und 42 (Bewirtung, Unterkunft etc.) eingetragen. Bei der Wortmarke Nr. 413519 handelt es sich gemäss Amtsvermerk um eine durchgesetzte Marke. Die Kuoni bietet unter diesen Marken "Dienstleistungen eines Reisebüros, nämlich Organisation, Reservierung, Veranstaltung und Vermittlung von Reisen, Vermittlung von Verkehrsleistungen, Reisebegleitung, Vermittlung von Reservierungen von Unterkunft und Verpflegung" an.
Die Helvetia Airlines AG (nachfolgend: Helvetia) ist seit 12. Juni 1998 im Handelsregister eingetragen. Sie bezweckt den "Transport von Passagieren und Fracht auf dem Luftweg im nationalen und internationalen Bereich [und] kann sich an anderen Unternehmen beteiligen".
B.- Mit Klage vom 3. Dezember 1998 beantragte die Kuoni dem Handelsgericht des Kantons Zürich, die Helvetia unter Androhung der Bestrafung ihrer Organe gemäss <ref-law> zu verpflichten, ihre Firma innert 30 Tagen nach Rechtskraft des Urteils zu ändern. Das Handelsgericht wies die Klage ab.
C.- Die Klägerin führt gegen das Urteil des Handelsgerichts Berufung mit dem Antrag, dieses aufzuheben und die Klage gutzuheissen. Die Beklagte schliesst auf Abweisung der Berufung.

Das Bundesgericht zieht in Erwägung:
1.- Die Klägerin verzichtet darauf, sich im vorliegenden Verfahren erneut auf den besonderen Schutz für berühmte Marken gemäss <ref-law> zu berufen. In Übereinstimmung mit der Vorinstanz ist die Klage daher unter dem Gesichtspunkt von <ref-law> zu prüfen. In Verbindung mit <ref-law> berechtigt diese Bestimmung den Inhaber einer Marke, anderen den Gebrauch eines mit dieser verwechselbaren Zeichens für gleiche oder ähnliche Waren oder Dienstleistungen zu verbieten. Dieses Recht besteht namentlich auch im Hinblick auf Geschäftsfirmen (<ref-ruling> E. 2b S. 148). Ob eine Verwechslungsgefahr besteht, prüft das Bundesgericht im Berufungsverfahren als Rechtsfrage (122 III 382 E. 1 S. 383 mit Hinweis); unumstritten ist vorliegend, dass die Parteien unter den streitigen Zeichen gleichartige Dienstleistungen anbieten.
2.- Die Vorinstanz prüfte, ob die streitigen Zeichen nach ihrem Gesamteindruck, namentlich unter Berücksichtigung von Wortklang, Schriftbild und Sinngehalt, verwechselbar seien. Sie erwog, die jeweils ersten Bestandteile, "Helvetic" und "Helvetia", glichen sich akustisch. Dazu trage der identische Wortanfang massgebend bei. Einzig in Bezug auf den letzten Wortteil bestehe eine Abweichung in Vokalfolge und Kadenz; auch die Anzahl der Silben weiche nur leicht voneinander ab, da die Endung "ti-a" zwar dogmatisch zwei Silben aufweise, was aber praktisch kaum ins Gewicht falle.
Vom Wortklang her wichen die jeweiligen letzten Teile aber erheblich voneinander ab, indem bei "Helvetia das "t" als "z" ausgesprochen werde und das Wort mit einem klangvollen "a" ende, man bei "Helvetic" aber das "t" als "t" ausspreche und das Wortende kurz und prägnant sei. Beziehe man jeweils die ganzen Zeichen, also "Helvetic Tours" und "Helvetia Airlines AG" in die Betrachtung ein, so sei der akustische Unterschied evident. Die Marke der Klägerin bestehe aus zwei Elementen mit insgesamt vier Silben, während die Firma der Beklagten drei Wörter mit (klangmässig) acht Silben enthalte.
Die Elemente "Tours" und "Airlines AG" wichen zudem in akustischer Hinsicht sehr stark voneinander ab. Auch hinsichtlich des Schriftbildes wichen die ersten Bestandteile der beiden Zeichen, "Helvetic" und "Helvetia", nur geringfügig voneinander ab; nur der letzte Buchstabe sei unterschiedlich, wobei je nach Art der verwendeten Schrift ein "c" und ein "a" sehr ähnlich aussehen könnten. Die übrigen Bestandteile der beiden Zeichen seien jedoch auch optisch gut unterscheidbar; es handle sich um völlig verschiedene Wörter ohne jegliche Ähnlichkeit. Unter dem Gesichtspunkt des Sinngehaltes sei festzuhalten, dass der Bestandteil "Helvetic" resp. "Helvetia" im vorliegenden Zusammenhang letztlich ein "nonvaleur" sei. Er habe keinen besonderen Bezug zur Reisebranche und sei für Waren und Dienstleistungen, die einen Bezug zur Schweiz hätten, universell einsetzbar.
Ableitungen der lateinischen Bezeichnung für die Schweiz, "Helvetia", würden primär zur Herstellung einer Verbindung zur Schweiz gebraucht. Daneben würden sie auch als Phantasiebezeichnung verwendet. Die Klägerin offeriere unter ihrer Marke nicht oder zumindest nicht hauptsächlich Reisen in der Schweiz, wolle aber offenbar durch diesen Markenbestandteil das Schweizerische, das im Allgemeinen einen Hinweis auf besondere Qualität geben solle, speziell hervorheben.
So verwendet gelte "Helvetia" als geographischer Name und gehöre als direkte Herkunftsangabe im Sinne von <ref-law> zum in <ref-law> geregelten Gemeingut.
Die Endung dieses Zeichenbestandteils sei für die Marke der Klägerin ohne erkennbar korrekten Bezug zu einer anderen Sprache adjektiviert worden. Dies verleihe der Marke - v.a.
in Verbindung mit dem zweiten Markenbestandteil "Tours" - einen englischen Anstrich. Damit komme der Marke aber trotz des klaren Unterschieds zum überstrapazierten Zeichen "Helvetia" kein schöpferischer Charakter zu, da die Anlehnung an "Helvetia" unübersehbar sei und der Bestandteil "Helvetic" unbestrittenermassen nicht exklusiv durch die Klägerin verwendet werde. Da sich das Zeichen "Helvetic Tours" im Verkehr durchgesetzt habe, komme es dennoch in den Genuss des normalen Markenschutzes. Hinsichtlich der geographischen Komponente behalte es aber seinen Charakter einer gemeinfreien Bezeichnung, so dass grundsätzlich bereits bescheidene Abweichungen eines jüngeren Zeichens genügten, um vom Schutzbereich ausgeschlossen zu sein. Auch bei durchgesetzten Marken bleibe der Hinweis auf die geographische Herkunft somit ein schwacher Markenbestandteil. "Airlines" und "Tours" deuteten dem Kunden an, dass es bei den beiden Zeichen um Dienstleistungen aus der Reisebranche gehe. "Tour" sei dabei der weitere Begriff, da er nicht nur Flug-, sondern auch sonstige Reisedienstleistungen umfasse. Es handle sich um eine dem Durchschnittskonsumenten geläufige Sachbezeichnung für das von der Klägerin angebotene Produkt; sie gehöre ebenfalls zum sprachlichen Gemeingut und sei somit, obwohl sie durch die Verkehrsdurchsetzung zum Markenbestandteil geworden sei, ebenfalls schwach. Dem in der Firma der Beklagten überdies enthaltenen Zusatz "AG", der ihre Rechtsform angebe, sei vom Sinngehalt her keine besondere Bedeutung zuzumessen. Der Durchschnittskonsument wisse kaum, ob es sich bei den fraglichen Zeichen um Firmen oder Marken handle und werde aus dem Fehlen des Zusatzes in der Marke der Klägerin ebenso wenig Schlüsse ziehen wie aus dessen Vorhandensein in der Firma der Beklagten.
Die ursprüngliche Kombination der klägerischen Markenelemente "Helvetic" und "Tours" mache diese ebenfalls nicht zu einer starken Marke, habe sie doch als Verbindung einer Herkunfts- und einer Sachbezeichnung kaum nennenswerte Kennzeichnungskraft. Aufgrund der Marktpräsenz und der massiven Werbung habe "Helvetic Tours" diese Kennzeichnungskraft mit der Zeit erlangt, sich also durchgesetzt. Ob sie dadurch zu einer starken Marke geworden sei, könne offen bleiben; träfe dies zu, so würde es nur für die Kombination "Helvetic Tours" gelten, nicht aber für das Element "Helvetic" allein. Dieses sei als geographische Herkunftsangabe ein schwaches Zeichenelement. Dennoch müsse sich die Firma der Beklagten wegen der Gleichartigkeit der angebotenen Dienstleistungen deutlich von der klägerischen Marke unterscheiden.
Im vorliegenden Fall sei nicht - wie in anderen Fällen - davon auszugehen, dass dem Wortanfang besondere Bedeutung zukomme und die Konsonanten eine geringere Rolle spielten, da dem angesprochenen Kundenkreis bewusst sein müsse, dass der erste Zeichenbestandteil "Helveti. .." für die unterschiedlichsten Waren und Dienstleistungen Verwendung finde, und das Publikum daher auch geringere Unterschiede aufmerksam wahrnehmen werde. Nur schon die auffällig abweichende Endung "-tic" in der Marke der Klägerin werde ihm mehr als genügend anzeigen, dass die Firma der Beklagten mit ihr nichts zu tun habe; namentlich die Gefahr, dass der Durchschnittskonsument vom Vorliegen einer Serienmarke ausgehen könnte, werde bereits dadurch gebannt. Er werde umso mehr auf die übrigen, sowohl in Klang als auch in Schrift stark voneinander abweichenden Zeichenbestandteile achten, die den ersten Eindruck noch verstärkten. Im Übrigen könne die Klägerin als Inhaberin einer Marke mit einem stark verbreiteten Bestandteil ohnehin nicht verlangen, dass ihr ein grösserer Schutzbereich zugestanden werde, als sie selbst gegenüber älteren Zeichen beobachtet habe. Schliesslich sei zu berücksichtigen, dass unter Fluggästen die Angst vor Verspätungen und mangelnder Sicherheit bekannterweise verbreitet sei, weshalb sie der Auswahl des Reiseveranstalters in der Regel mehr Aufmerksamkeit schenkten als etwa dem Erwerb eines Duschgels oder einer Packung Spaghetti. Damit liege weder eine unmittelbare noch eine mittelbare Verwechslungsgefahr vor; die Beklagte habe sowohl im Verhältnis zur klägerischen Wortmarke 413519 als auch zur Wort-/Bildmarke 411262 einen genügenden Zeichenabstand eingehalten.
3.-Die Klägerin rügt, die Verwechselbarkeit von zwei Zeichen sei aufgrund des Erinnerungsbildes, das die Zeichen beim Konsumenten hinterliessen, zu beurteilen; es könne also nicht darum gehen, ob bei einer Gegenüberstellung der beiden Zeichen der Unterschied akustisch gut erkennbar wäre. Habe der Konsument aber einmal von Helvetic Tours gehört, und höre er später auch von Helvetia Airlines AG, so sei der Klangunterschied der letzten Silbe angesichts des beinahe identischen Schriftbildes und des identischen Sinngehalts des prägenden Markenbestandteils völlig nebensächlich und die Gefahr der Verwechslung oder der gedanklichen Verbindung der beiden Unternehmen im Erinnerungsbild akut. Die Ähnlichkeit der kennzeichnungskräftigen Bestandteile "Helvetic" und "Helvetia" sei derart frappant, dass selbst bei einer akustischen Gegenüberstellung der beiden Zeichen eine erhebliche Verwechslungsgefahr bestehe. Angesichts der zahlreichen Übereinstimmungen könne der Klangunterschied durch Unaufmerksamkeit ohne weiteres untergehen. Die Gefahr der Unaufmerksamkeit sei umso grösser, als der Konsument während zahlreichen Jahren in der Reisebranche nur die Marke der Klägerin gekannt habe.
An der zitierten Urteilsstelle wird lediglich festgehalten, dass die jeweilige Wortendung von "Helvetic" und "Helvetia" unterschiedlich ausgesprochen wird, was kaum bestritten werden kann. Die von der Klägerin beschworenen "zahlreichen Übereinstimmungen" im Klang beschränken sich auf den Wortbestandteil "Helveti. ..", der zusammen mit weiteren Bestandteilen die zu vergleichenden Zeichen bildet.
Die Vorinstanz stützte ihren Befund, die beiden streitigen Zeichen seien nicht verwechselbar, nicht auf den Unterscheid in der Wortendung von "Helvetia" bzw. "Helvetic" allein, sondern auf den Gesamteindruck, den Wortklang, Schriftbild und Sinngehalt beim Durchschnittskonsumenten hinterlassen.
Dies entspricht ständiger Praxis und ist nicht zu beanstanden (<ref-ruling> E. 5a S. 388; <ref-ruling> E. 2b S. 379 mit Hinweisen). Soweit die Klägerin geltend machen will, die Vorinstanz habe den Gesamteindruck unrichtig beurteilt, ist auf ihre Rügen nur einzutreten, soweit sie sich mit der Argumentation der Vorinstanz detailliert auseinandersetzt, befreit sie doch der im Berufungsverfahren geltende Grundsatz der Rechtsanwendung von Amtes wegen nicht von der Obliegenheit, darzulegen, inwiefern der angefochtene Entscheid ihrer Ansicht nach Bundesrecht verletzt (Art. 55 Abs. 1 lit. c OG).
4.-Die Klägerin ist der Ansicht, die Zeichenbestandteile "Tours" bzw. "Airlines AG" seien in die Gesamtbetrachtung gar nicht einzubeziehen, weil der unterscheidungskräftige Bestandteil der klägerischen Marke "Helvetic" sei und die Bezeichnungen "Tours" und "Airlines AG" in der Reisebranche derart häufig gebraucht würden, dass eine Durchsetzung gar nicht möglich wäre und der Konsument den Begriffen keinerlei Bedeutung beimesse, soweit es um die Unterscheidung der Unternehmen gehe. Das Anfügen von Sachbezeichnungen zum unterscheidungskräftigen Bestandteil einer Marke beseitige die Verwechslungsgefahr normalerweise nicht; entscheidend seien daher die prägenden Elemente der Marke. Dies gelte umso mehr, als die Inhaber von Marken und Firmen die Sachbezeichnungen im Auftritt gegen aussen wegliessen und nur den unterscheidungskräftigen Teil ihres Zeichens kommunizierten.
a) Zweck der Marke ist es, die gekennzeichneten Waren oder Dienstleistungen zu individualisieren und von anderen Waren bzw. Dienstleistungen zu unterscheiden, um die Verbraucher in die Lage zu versetzen, ein einmal geschätztes Produkt in der Menge des Angebots wiederzufinden. Eine Verwechslungsgefahr im Sinne von <ref-law> ist demnach dann anzunehmen, wenn das jüngere Zeichen die ältere Marke in ihrer Unterscheidungsfunktion beeinträchtigt, d.h.
wenn zu befürchten ist, dass die massgeblichen Verkehrskreise sich durch die Ähnlichkeit der Zeichen irreführen lassen und Waren, die das eine oder das andere Zeichen tragen, dem falschen Markeninhaber zurechnen. Eine bloss entfernte Möglichkeit von Fehlzurechnungen genügt dabei nicht; erforderlich ist vielmehr, dass der durchschnittliche Verbraucher die Marken mit einer gewissen Wahrscheinlichkeit verwechselt (<ref-ruling> E. 1 S. 383 f. mit Hinweisen).
Nach ständiger bundesgerichtlicher Praxis ist die Frage, ob sich zwei Zeichen genügend unterscheiden, aufgrund des Gesamteindrucks zu beurteilen, den sie beim interessierten Publikum hinterlassen (BGE <ref-ruling> E. 2a S. 378).
Zum Gesamteindruck gehören alle Teile der zu beurteilenden Zeichen, selbst wenn sie - wie behauptet - im Geschäftsverkehr nicht immer verwendet werden. Ohnehin ist aber angesichts der weiten Verbreitung des Zeichenbestandteils "Helveti. .." kaum anzunehmen, dass eine der beteiligten Parteien ihre Leistungen unter der Kurzbezeichnung "Helvetic" bzw. "Helvetia" erbringen würde.
Zu berücksichtigen ist, dass das Publikum die beiden Zeichen meist nicht gleichzeitig wahrnehmen wird. Vielmehr ist davon auszugehen, dass dem direkt wahrgenommenen einen Zeichen bloss das mehr oder weniger verschwommene Erinnerungsbild des früher wahrgenommenen anderen Zeichens gegenüber steht. Beim Vergleich ist daher auf diejenigen Merkmale abzustellen, die geeignet sind, auch in einem durchschnittlich unvollkommenen Gedächtnis haften zu bleiben.
Das Erinnerungs- und Unterscheidungsvermögen der massgebenden Verkehrskreise wird dabei durch die Umstände mit beeinflusst, unter denen sich der Verkehr mit Waren oder Dienstleistungen der fraglichen Gattung abzuwickeln pflegt und hängt insbesondere von der Aufmerksamkeit ab, die dabei gewöhnlich angewendet wird (BGE <ref-ruling> E. 2a S. 378 mit Hinweisen). Je nach der Ausgestaltung eines Zeichens ziehen zudem seine verschiedenen Bestandteile die Aufmerksamkeit des Publikums in unterschiedlichem Ausmass an. So misst der Adressatenkreis Bestandteilen, die er von ihrem Sinngehalt her sogleich als beschreibend erkennt, für die Kennzeichnung der Waren oder Dienstleistungen in der Regel unwillkürlich weniger Gewicht zu als originellen Bestandteilen (<ref-ruling> E. 5a S. 388).
b) Nach dem Gesagten ist grundsätzlich davon auszugehen, dass das Publikum Marken- oder Firmenbestandteile wie "Tours" oder "Airlines AG" eher als blosse Umschreibung der angebotenen Leistung erkennen und das Gewicht auf originellere Zeichenbestandteile legen wird. Vorliegend ist aber der andere Zeichenbestandteil - "Helvetic" bzw. "Helvetia" - als stark verbreitete, geographische Bezeichnung ebenfalls schwach, wie die Vorinstanz ausführlich dargelegt hat (vgl.
auch E. c hiernach). Markenrechtlich relevante Kennzeichnungskraft hat der Bestandteil "Helvetic" überhaupt nur in Verbindung mit dem Zusatz "Tours", weil sich das aus der Kombination von beiden Bestandteilen gebildete Zeichen gemäss Vermerk im Markenzertifikat auf dem Markt durchgesetzt hat. Unter diesen Umständen kann der Klägerin nicht darin zugestimmt werden, dass überhaupt nur oder doch in erster Linie die Bestandteile "Helvetic" bzw. "Helvetia" miteinander zu vergleichen wären, da diesem Zeichenbestandteil im Erinnerungsvermögen des Publikums gegenüber den anderen kein massgeblicher Vorrang zukommt.
c) Die Klägerin bestreitet, dass der geographische Zeichenbestandteil "Helvetic" schwach bleibe. Mit dieser Annahme widerspreche die Vorinstanz der eigenen Feststellung, dass eine durchgesetzte Marke in den Genuss des normalen Markenschutzes komme; eine schwache Marke könne sich im Verkehr durchsetzen und zu einer starken Marke werden. Über die Stärke oder Schwäche einer Marke entscheide nicht ihr ursprünglicher Charakter, sondern ihre Kennzeichnungskraft.
Diese wiederum hänge von der Bereitschaft der Konsumenten ab, ein bestimmtes Zeichen einem bestimmten Unternehmen zuzuordnen.
Die klägerische Marke habe aufgrund ihres langjährigen, exklusiven und intensiven Gebrauchs durch die Klägerin starke Kennzeichnungskraft erlangt. Damit sei ihr Schutzbereich gross oder zumindest durchschnittlich. Daran vermöge auch nichts zu ändern, dass der Markenbestandteil "Helvetic" eine Herkunftsangabe darstelle. Stelle sich nun die Frage, ob diese Herkunftsangabe auch in einer anderen Marke oder Firma verwendet werden dürfe, so müsse eine Interessenabwägung stattfinden. Diese falle vorliegend eindeutig zu Gunsten der Klägerin aus. Zunächst sei zu berücksichtigen, dass der Bestandteil "Helvetic" auch einen gewissen Grad an Phantasie enthalte, stamme der Begriff doch von der lateinischen Benennung des keltischen Stammes der Helvetii ab, die im Alpenraum lebten. Phantasielos wäre dagegen die Herkunftsbezeichnung Schweiz/Suisse/Svizzera etc. Zudem gebe es noch zahlreiche andere Möglichkeiten, auf die schweizerische Herkunft hinzuweisen. Im Weiteren sei in Betracht zu ziehen, dass die Klägerin ihre Marke während mehr als 15 Jahren in der Reisebranche intensiv gebraucht und unter erheblichen Investitionen bekannt gemacht habe, so dass sich das Kennzeichen heute grosser Bekanntheit erfreue. Gerade der langjährige exklusive Gebrauch zeige mit aller Deutlichkeit, dass die Konkurrenz der Klägerin offensichtlich nicht auf die Herkunftsbezeichnung "Helvetia" angewiesen sei; solches habe denn auch die Beklagte nicht dargetan. Zu berücksichtigen sei sodann, dass die Klägerin die Beklagte sofort nach Publikation deren Firma im Handelsregister abgemahnt und auf ihre Markenrechte hingewiesen habe. Weiter habe die Klägerin im hart umkämpften Touristikmarkt, dem auch die Beklagte angehöre, ein besonderes Interesse an deutlicher Unterscheidung von der Konkurrenz. Schliesslich dürfe nicht übersehen werden, dass angesichts der Publizität, die Flugzeugpannen u.ä. erhielten, die Folgen einer Verwechslung mit der Beklagten besonders gravierend wären.
aa) Der Schutzumfang einer Marke hängt davon ab, ob sie als stark oder schwach anzusehen ist. Schwache Marken gelten als weniger schutzwürdig als starke, denn wer sich mit seiner Marke dem Gemeingut annähert, nimmt eine geringe Unterscheidungskraft in Kauf, solange er seine Marke dem Publikum nicht durch Werbeanstrengungen in besonderem Masse als Kennzeichen seiner Leistungen eingeprägt hat. Bei schwachen Marken genügen daher schon bescheidenere Abweichungen, um eine hinreichende Unterscheidbarkeit zu schaffen. Als schwach gelten insbesondere Marken, deren wesentliche Bestandteile sich eng an Sachbegriffe des allgemeinen Sprachgebrauchs anlehnen. Stark sind demgegenüber Marken, die entweder aufgrund ihres phantasiehaften Gehalts auffallen oder aber sich im Verkehr durchgesetzt haben. Starke Marken sind das Ergebnis einer schöpferischen Leistung oder langer Aufbauarbeit; sie verdienen deshalb einen weiteren Schutzbereich (<ref-ruling> E. 2a S. 385 f.).
bb) Die Vorinstanz hat festgestellt, dass sich die Marke der Klägerin im Verkehr durchgesetzt hat. Damit kam diese - eine Kombination einer Herkunfts- mit einer Sachbezeichnung, also zweier Zeichen des Gemeingutes - nach <ref-law> überhaupt erst in den Genuss des Markenschutzes.
Die Vorinstanz hat offen gelassen, ob die Marke dadurch gesamthaft stark wurde, da dies ohnehin nur für die Kombination "Helvetic Tours" und nicht für den Bestandteil "Helvetic" allein gelten könne. Nach den verbindlichen Feststellungen der Vorinstanz hat die Klägerin den Markenbestandteil "Helvetic" nicht exklusiv gebraucht. Dieser Feststellung zuwiderlaufende neue Tatsachenbehauptungen können nicht gehört werden (Art. 55 Abs. 1 lit. c OG). Auch ist die Verwendung von "Helvetic" an Stelle von "schweizerisch" etc.
aufgrund ihrer weiten Verbreitung nicht phantasievoll genug, um besondere Kennzeichnungskraft zu haben. Damit vermag auch die Möglichkeit, andere Zeichen für die Bedeutung "schweizerisch" zu verwenden, keine besondere Schutzwürdigkeit für "Helvetic" zu begründen. Die übrigen Argumente der Klägerin - sie habe die Beklagte frühestmöglich abgemahnt; eine Verwechslung der streitigen Zeichen könnte weitreichende Konsequenzen haben - sind von vornherein nicht geeignet, den Schutzbereich der klägerischen Marke zu bestimmen. In Übereinstimmung mit der Vorinstanz ist daher anzunehmen, dass die Herkunftsbezeichnung "Helvetic" als Bestandteil der klägerischen Marke schwach ist. Die Vorinstanz nahm an, aufgrund der Gleichartigkeit der angebotenen Dienstleistungen sei dennoch eine deutliche Unterscheidung der beklagtischen Firma von der klägerischen Marke zu fordern. Zu Recht verzichtete sie aber darauf, der Beklagten den Gebrauch des Zeichenbestandteils "Helveti. .." gänzlich zu verbieten.
d) Die Vorinstanz erwog, aufgrund der grossen Verbreitung des Zeichenbestandteils "Helveti. .." werde der Durchschnittskonsument nicht alle Verwender dieser Bezeichnung miteinander in Verbindung bringen, sondern Unterschiede aufmerksam wahrnehmen. Den Unterschied zwischen "Helvetic" und "Helvetia" im ersten Zeichenbestandteil grenze die beiden Zeichen genügend deutlich voneinander ab, zumal der Inhaber einer Marke grundsätzlich nicht verlangen könne, dass ihm selbst ein grösserer Schutzbereich zugestanden werde, als er selbst gegenüber älteren Zeichen beobachtet habe. Die Klägerin rügt, dieses Argument sei auf Marken zugeschnitten, die aufgrund zahlreicher ähnlicher beschreibender Marken, die bereits im Gebrauch seien, nur eine schwache Kennzeichnungskraft hätten. Der Fall der durchgesetzten Marke liege aber genau umgekehrt, denn die Marke habe durch langen exklusiven Gebrauch und besondere Anstrengungen des Markeninhabers Kennzeichnungskraft erlangt.
Wie bereits festgehalten wurde, ist die vorinstanzliche Feststellung, der Bestandteil "Helveti. .." werde nicht exklusiv durch die Klägerin verwendet, für das Bundesgericht verbindlich. Den Ausführungen der Klägerin ist sodann die zutreffende Erwägung der Vorinstanz entgegenzuhalten, aus der Durchsetzung der klägerischen Marke "Helvetic Tours" könne nicht abgeleitet werden, dass auch jedem einzelnen Element, namentlich dem Bestandteil "Helvetic", starke Kennzeichnungskraft zukomme. Unabhängig davon, ob die Marke mit ihrer Durchsetzung gesamthaft stark geworden ist, hat der Bestandteil "Helvetic" - der allein Gegenstand einer Verwechslungsgefahr sein könnte - nach wie vor schwache Kennzeichnungskraft; er bewirkt keinen grösseren Abstand der klägerischen Marke zu anderen Zeichen mit dem Element "Helveti. ..", als der Firma "Helvetia Airlines AG" gegenüber der klägerischen Marke zukommt.
e) Die Vorinstanz erachtete den Unterschied in den streitigen Zeichen als genügend, um eine Verwechslungsgefahr zu vermeiden, weil Personen, welche eine Flugreise unternähmen, der Auswahl der Anbieterin eine erhöhte Aufmerksamkeit schenkten. Die Klägerin hält dem entgegen, die Aufmerksamkeit, welche die Konsumenten bei der Auswahl eines Produkts anwendeten, hänge von subjektiven Neigungen ab; so schenke ein Hobbykoch der Auswahl von Spaghetti, eine auf Unverträglichkeiten empfindliche Person der Auswahl von Hygieneartikeln besondere Aufmerksamkeit. Bei der Beurteilung der durchschnittlichen Aufmerksamkeit des Zielpublikums sei aber von objektiven Kriterien auszugehen. Beim Kauf von Pauschalreisen stünden in der Regel der Preis, das Reiseziel und die Flugverbindungen im Zentrum des Interesses der Konsumenten.
Bezüglich der Qualität der Leistungen des Reiseveranstalters verliessen sie sich auf dessen Ruf. Hingegen dürfte es die Ausnahme darstellen, dass ein Konsument über den Anbieter, etwa im Hinblick auf seine Zugehörigkeit zu einer Unternehmensgruppe, weitere Recherchen anstelle bzw. diesem grosse Aufmerksamkeit schenke. Im Gegenteil bestehe die Gefahr, dass die Kundschaft der Beklagten aufgrund deren Firma eine Verbindung zur Klägerin vermuten würde.
Die Klägerin verkennt, dass auch die Vorinstanz nicht davon ausging, die Konsumenten würden vor einem Vertragsschluss mit der Beklagten deren allfällige Zugehörigkeit zur Unternehmensgruppe der Klägerin oder andere Verbindungen zu dieser prüfen. Sie nahm einzig, und zu Recht, an, dass es dem Publikum aufgrund der besonderen Gefährdungen bei Flugreisen besonders darauf ankäme, mit welchem Veranstalter es diese unternähme. Selbst die Klägerin räumt ein, dass das Publikum auf den Ruf eines Reiseveranstalters achtet - und dies setzt ja voraus, dass es sich bewusst ist, mit welchem Veranstalter es kontrahiert. Diese erhöhte Aufmerksamkeit bei der Wahl eines Flugreiseanbieters, welche die Berücksichtigung anderer Komponenten wie namentlich der Preise nicht ausschliesst, darf beim durchschnittlichen Flugreisepublikum angenommen werden. Hingegen dürften, wie die Klägerin ebenfalls einräumt, nur überdurchschnittlich interessierte Konsumenten der Auswahl von Konsumgütern wie Spaghetti oder Duschgel eine vergleichbare Aufmerksamkeit schenken.
5.- Die Vorinstanz prüfte auch die Vereinbarkeit des beklagtischen Verhaltens mit den Bestimmungen über den unlauteren Wettbewerb. Sie erwog, die Klägerin stütze sich auf <ref-law>, welcher das Treffen von Massnahmen, die sich zur Herbeiführung von Verwechslungen mit den Leistungen und dem Geschäftsbetrieb eines anderen eigneten, verbiete.
Da der Begriff der Verwechslungsgefahr im Wettbewerbsrecht kein anderer sei als im Kennzeichnungsrecht, sei auch die Anwendbarkeit dieser Bestimmung zu verneinen. Die Klägerin beruft sich auch im vorliegenden Verfahren wieder auf <ref-law> mit der Begründung, die Vorinstanz habe die Verwechslungsgefahr zu Unrecht verneint. Wie gezeigt wurde, ist aber die Auffassung der Vorinstanz hinsichtlich der markenrechtlichen - und damit auch der wettbewerbsrechtlichen - Verwechselbarkeit nicht zu beanstanden.
6.- Nach dem Gesagten ist die Berufung abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird die Klägerin kosten- und entschädigungspflichtig (Art. 156 Abs. 1 und Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen, soweit darauf einzutreten ist, und das Urteil des Handelsgerichts des Kantons Zürich vom 23. August 1999 wird bestätigt.
2.- Die Gerichtsgebühr von Fr. 5'000.-- wird der Klägerin auferlegt.
3.- Die Klägerin hat die Beklagte für das bundesgerichtliche Verfahren mit Fr. 7'500.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 16. Juni 2000
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: