hat sich ergeben:
A.- Mit Vertrag vom 14. April/1. Mai 1971 übertrug die Familia Lebensversicherungsgesellschaft mit Sitz in St. Gallen (nachstehend: Familia) Jacques Pasche mit Wohnsitz in Lausanne die Generalagentur für den Kanton Waadt. Am 27. November/9. Dezember 1972 schlossen die Parteien einen neuen Vertrag, der die Generalagentur auf das Gebiet der Kantone Waadt, Neuenburg und Genf sowie den Berner Jura ausgeweitete. In der Folge sind alle Rechte und Pflichten des Generalagenten auf die von ihm wirtschaftlich beherrschte Home Planning SA übertragen worden. Der Generalagenturvertrag wurde 1974, 1975, 1981 und 1982 ergänzt und abgeändert, wobei neue Provisionsvereinbarungen getroffen wurden.
Die Familia wollte seit Mitte der 80-er Jahre den Agenturvertrag auf eine neue Grundlage stellen, um ihn den veränderten Verhältnissen in der Versicherungsbranche und den mit anderen Generalagenten abgeschlossenen Verträgen anzupassen, was jedoch auf Widerstand der Home Planning AG stiess.
Mit Schreiben vom 17. September 1993 kündigte die Familia der Home Planning AG den Generalagenturvertrag auf den 31. Dezember 1993 und verwies dabei auf die geplante Umstrukturierung des Aussendienstes. Die Vertragsverhandlungen über den Abschluss eines neuen Generalagenturvertrages scheiterten.
B.- Am 7. März 1995 klagte die Home Planning AG beim Handelsgericht des Kantons St. Gallen gegen die Familia auf Zahlung einer Kundschaftsentschädigung gemäss <ref-law> in der Höhe von Fr. 300'000.-- sowie Schadenersatz in noch zu beziffernder Höhe wegen Vertragsverletzungen durch die Beklagte.
An der Vorbereitungsverhandlung vom 19. Januar 1996 erklärten die Parteien übereinstimmend, sie gingen von einem Jahresnettoverdienst der Klägerin von Fr. 300'000.-- aus. Mit Zirkulationsbeschluss vom 2. Mai 1997 ernannte das Handelsgericht Hans Zweifel als Experten für die Frage, ob der Beklagten nach der Auflösung des Generalagenturverhältnisses erhebliche Vorteile aus den Geschäftsverbindungen mit der durch die Klägerin geworbenen Kundschaft erwachsen seien.
Die Beklagte wurde per 1. Januar 1999 von der Generali Personenversicherungen übernommen.
Am 28. Januar 1999 erstattete der Experte seinen Bericht. Die Klägerin beantragte in ihrer Stellungnahme vom 15. April 1999, es sei nach Massgabe von <ref-law> ein neuer Sachverständiger zu ernennen, weil das Gutachten evident ungenügend sei; weiter stellte die Klägerin vorsorglich eine Reihe von Ergänzungsfragen. Der Handelsgerichtspräsident liess alsdann vom Experten zur Beantwortung dieser Fragen einen Ergänzungsbericht ausarbeiten, welcher am 27. Juni 1999 vorgelegt wurde.
Mit Urteil vom 8. September 1999 wies das Handelsgericht die Klage ab.
C.- Die Klägerin erhebt Berufung mit dem Antrag, das Urteil des Handelsgerichts aufzuheben und die Streitsache zur weiteren Abklärung des Sachverhalts an die Vorinstanz zurückzuweisen.
Die Beklagte schliesst auf Abweisung der Berufung.

Das Bundesgericht zieht in Erwägung:
1.- Die Klägerin ficht das Urteil des Handelsgerichts bezüglich der Abweisung der gestellten Schadenersatzansprüche nicht an, weshalb es insoweit in Rechtskraft erwachsen ist (Art. 54 Abs. 2 OG).
2.- Die Berufungsschrift enthält keinen materiellen Antrag, wie er nach Art. 55 Abs. 1 lit. b OG erforderlich ist. Der blosse Rückweisungsantrag genügt indessen, weil das Bundesgericht, sollte es die Rechtsauffassung der Klägerin für begründet erachten, kein Sachurteil fällen kann, sondern die Streitsache zur weiteren Abklärung des Sachverhaltes an die Vorinstanz zurückweisen muss (<ref-ruling> E. 1; <ref-ruling> E. 1 je mit Hinweisen).
3.- a) Nach Art. 55 Abs. 1 lit. c OG ist in der Berufungsschrift anzugeben, welche Bundesrechtssätze und inwiefern sie der angefochtene Entscheid verletzt. Unzulässig sind dagegen Rügen, die sich gegen die tatsächlichen Feststellungen und gegen die Beweiswürdigung der Vorinstanz richten (<ref-ruling> E. 2b S. 99, 119 II 84 E. 3, 116 II 93 E. 2), es sei denn, es werde dieser zugleich ein offensichtliches Versehen, eine Verletzung bundesrechtlicher Beweisvorschriften (Art. 63 Abs. 2 OG) oder unvollständige Ermittlung des Sachverhalts vorgeworfen (Art. 64 OG).
b) Die Klägerin macht geltend, die Feststellung, dass die abgeschlossenen Lebensversicherungsverträge nicht automatisch reproduzierbar seien, beruhe auf einem offensichtlichen Versehen, weil das Handelsgericht sich auf ein Gutachten gestützt habe, welches versehentlich davon ausgegangen sei, dass keine brauchbaren Kundeninformationen gesammelt worden seien. Dies ergebe sich daraus, dass auf dem Fragebogen des Experten die Beklagte die Frage nach solchen Informationen zwar mit "nein", die Beklagte jedoch mit "ja" beantwortet habe. Die Klägerin verkennt dabei, dass der Gutachter offenbar der Angabe der Beklagten glauben schenkte, was eine Beweiswürdigung darstellt, welche vom Handelsgericht übernommen wurde, so dass ein offensichtliches Versehen gemäss Art. 63 Abs. 2 OG, das einen Irrtum der Vorinstanz voraussetzt, zu verneinen ist.
c) Weiter rügt die Klägerin, das Handelsgericht
habe <ref-law> verletzt, weil es bezüglich der Nachfolgegeschäfte keine zusätzliche Expertise eingeholt und den Verfasser der Expertise der Oficomtes SA nicht als Zeugen einvernommen habe.
Nach der Rechtsprechung ist <ref-law> insbesondere verletzt, wenn der Richter taugliche und formgültig beantragte Beweise zu rechtserheblichen Tatsachen nicht abnimmt, obwohl er die entsprechenden Sachvorbringen weder als bewiesen noch als widerlegt erachtet. Die Bestimmung schreibt dem Richter hingegen nicht vor, mit welchen Mitteln er den Sachverhalt abzuklären und wie er das Ergebnis seiner Abklärungen zu würdigen habe. Sie verbietet ihm auch nicht, angebotene Beweise vorweg zu würdigen und gestützt darauf auf ihre Abnahme zu verzichten (<ref-ruling> E. b mit Hinweisen). Auf diese Weise ist das Handelsgericht im vorliegenden Fall vorgegangen, indem es nach Würdigung des eingeholten Gutachtens auf weitere Beweisabnahmen verzichtete, weshalb eine Verletzung von <ref-law> zu verneinen ist.
4.- Das Handelsgericht verneinte Ansprüche der Klägerin
gemäss <ref-law>. Es begründete dies im Wesentlichen damit, dass kein Vorteil im Sinne von <ref-law> vorliege, weil bei Lebensversicherungen von einer automatischen Reproduktionsfähigkeit des Portefeuilles nicht die Rede sein könne, was für den vorliegenden Fall vom Gerichtsexperten bestätigt worden sei.
Die Klägerin rügt, das Handelsgericht habe den Begriff des Vorteils im Sinne <ref-law> bundesrechtswidrig ausgelegt. Dieser setze nicht voraus, dass sich der Vorteil gleichsam automatisch und ohne Zutun des Auftraggebers ständig von neuem ergebe. Vielmehr seien nach richtiger Ansicht alle geldwerten Vorteile, die sich nur aus dem vorhandenen Kundenstamm erklären lassen, zu berücksichtigen. Ansonsten würde die Kundenentschädigung auf Verträge bezüglich Produkte des täglichen Bedarfs beschränkt, was nicht mit der offenen Formulierung von <ref-law> vereinbar sei, welche grundsätzlich für alle möglichen Inhalte von Agenturverträgen Anwendung finden müsse. Das Handelsgericht habe daher zu Unrecht nicht berücksichtigt, dass der Beklagten dadurch ein Vorteil erwachse, dass die sogenannte Protefeuillekommission von jährlich rund Fr. 100'000.-- weggefallen sei, welche gemäss der Vereinbarung der Parteien 2 % der Jahresprämien ab dem zweiten Jahr der einzelnen Versicherungsverträge betragen habe.
a) Der Anspruch des Agenten auf Entschädigung für die Kundschaft gemäss <ref-law> setzt insbesondere voraus, dass dem Auftraggeber (oder seinem Rechtsnachfolger) aus der Geschäftsverbindung mit der vom Agenten geworbenen Kundschaft auch nach Auflösung des Agenturverhältnisses erhebliche Vorteile erwachsen (<ref-law>).
Da die Entschädigung für die Kundschaft nach ständiger Rechtsprechung nicht ein nachträgliches Entgelt für Leistungen des Agenten während der Vertragsdauer, sondern einen Ausgleich für den Geschäftswert darstellt, den der Auftraggeber nach Beendigung des Vertrages weiter nutzen kann (<ref-ruling> E. 3d, S. 72 mit Hinweisen), sind unter Vorteilen im Sinne von <ref-law> allein Gewinne aus künftigen Vertragsabschlüssen mit der vom Agenten aufgebauten Kundschaft und nicht Vorteile aus während der Vertragsdauer abgeschlossenen Geschäften zu verstehen (vgl. Jean-Marie Hangartner, Die Voraussetzungen für die Abgangsentschädigung des Versicherungsagenten gemäss <ref-law>, SVZ 1958/59, S. 273 ff., S. 278 f.; Hans Berger, Das Bundesgesetz über den Agenturvertrag und seine Anwendung im Versicherungsgeschäft, SVZ 1950/51, S. 97 ff. S. 101). Erhebliche Vorteile liegen damit nur vor, wenn mit Nachbestellungen zu rechnen ist, weil der vom Agenten geworbene Kundenkreis dem Auftraggeber sehr wahrscheinlich treu bleibt und er seinen Bedarf weiterhin bei diesem deckt, was praktisch ausschliesslich bei Waren und Dienstleistungen des wiederkehrenden Bedarfs zutrifft (<ref-ruling>, E. 3a mit Hinweisen; vgl. ferner: Urteil des Basler Zivilgerichts vom 18. August 1978, BJM 1979, S. 82; Pierre Engel, Contrats des droit suisse, 2. Aufl., S. 553; Wettenschwyler, Basler Kommentar, N 8 zu <ref-law>; Carl Baudenbacher, Zum Kundschaftsentschädigungsanspruch des Agenten im schweizerischen Recht - Rechtsvergleichende Betrachtungen unter Berücksichtigung des deutschen Rechts, JZ 1998, S. 919 ff. S. 921; Thomas Koller, Die Kundschaftsentschädigung im schweizerischen Agenturvertragsrecht, in: Der Ausgleichsanspruch des Handelsvertreters, Saenger/Schulze (Hrsg.), S. 111 ff., S. 123; Kurt Brunner, Das Rechtsverhältnis zwischen Versicherer und Versicherungsagenten und seine Drittwirkungen, Diss. Zürich 1981, S. 234 f.).
Diese Grundsätze gelten auch für die Versicherungsbranche. Bei der Bestimmung des Vorteils im Sinne von <ref-law> ist daher unerheblich, ob die während der Dauer des Agenturvertrages abgeschlossenen Verträge für den Auftraggeber gewinnbringend sind oder er diesbezüglich Provisionen einspart. Vielmehr ist auch im Versicherungsgeschäft einzig darauf abzustellen, ob der Versicherer mit der vom Agenten geworbenen Kundschaft nach der Auflösung des Agenturvertrags ohne zusätzliche Aufwendungen innert nützlicher Frist weitere Neuabschlüsse tätigen oder gewinnbringende Vertragsänderungen realisieren kann (Hangartner, a.a.O., S. 279; Brunner, a.a.O., S. 235 f.). Eine solche Reproduzierbarkeit ist bei Lebensversicherungen, welche langfristig sind und meist nur einmal abgeschlossen werden, nach der allgemeinen Lebenserfahrung zu verneinen (Urteil des Basler Zivilgerichts vom 18. August 1978, BJM 1979, S. 82; Umbricht/Grether, in: Graf von Westphalen [Hrsg.], Handbuch des Handelsvertreters in EU-Staaten und der Schweiz, S. 1087 Rz. 263; J.-C. Burnand, Le contrat d'agence et le droit de l'agent d'assurances à une indemnité de clientèle selon l'art. 418u CO, Diss. Lausanne 1977, S. 145; Gerhard Leiss, Der Anspruch des Agenten auf Entschädigung für die Kundschaft in rechtsvergleichender Darstellung, Diss. Bern 1965, S. 129; Hans Jörg Wehrli, Der Versicherungsagenturvertrag, S. 94; Hangartner, a.a.O., S. 279 f.; Baudenbacher, S. 921; Berger, a.a.O., S. 102). So wurde bereits in der bundesrätlichen Botschaft angenommen, im Bereiche der Lebensversicherung werde der Agent kaum je einen Kundenstock aufbauen, welcher nach Auflösung des Vertrages der Gesellschaft zu Gute komme (Botschaft vom 27. November 1947, BBl. 1947 III 661 ff. S. 685).
b) Im vorliegenden Fall hat die Vorinstanz für das Bundesgericht verbindlich festgestellt, dass auf Grund des von der Klägerin aufgebauten Kundenstammes keine wirtschaftlich ins Gewicht fallenden Nachfolgegeschäfte zu erwarten sind. Daraus hat die Vorinstanz gemäss den genannten Grundsätzen bundesrechtskonform abgeleitet, dass ein Vorteil der Beklagten im Sinne von <ref-law> und damit ein Anspruch auf Kundschaftsentschädigung zu verneinen ist, ohne dass diesbezüglich die von der Klägerin geltend gemachten Provisionseinsparungen hätten geprüft werden müssen. Die tatsächlichen Feststellungen der Vorinstanz sind demnach nicht ergänzungsbedürftig, weshalb der von der Klägerin gestellte Rückweisungsantrag abzuweisen und der angefochtene Entscheid zu bestätigen ist.
5.- Nach dem Gesagten ist die Berufung abzuweisen. Bei diesem Verfahrensausgang wird die Klägerin kosten- und entschädigungspflichtig (Art. 156 Abs. 1 und Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird abgewiesen und das Urteil des
Handelsgerichts des Kantons St. Gallen vom 8. November 1999 wird bestätigt.
2.- Die Gerichtsgebühr von Fr. 7'000.-- wird der Klägerin auferlegt.
3.- Die Klägerin hat der Beklagten für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 8'000.-- zu entrichten.
4.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons St. Gallen schriftlich mitgeteilt.
_
Lausanne, 2. Mai 2000
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: