Begründungspflicht (Art. 277 BStP), hat sich ergeben:
A.- Am Freitag, 14. Juni 1996, gegen 07.15 Uhr erschoss H. in seinem Einfamilienhaus in O. mit einer Pistole seine Ehefrau (geb. 1937) und einen seiner zwei Söhne (geb. 1977). Als er am Sonntag,
16. Juni 1996, gegen 04.00 Uhr auch noch seinen zweiten Sohn (geb. 1975) im Schlaf erschiessen wollte, erwachte dieser, worauf er von seinem Vorhaben abliess.
B.- Mit Urteil vom 3. März 1999 sprach das Bezirksgericht Baden H. der mehrfachen vorsätzlichen Tötung und der versuchten vorsätzlichen Tötung schuldig und verurteilte ihn zu 12 Jahren Zuchthaus.
Die gegen dieses Urteil gerichtete Berufung von H. hiess das Obergericht des Kantons Aargau mit Urteil vom 22. September 1999 teilweise gut und reduzierte die Strafe auf zehn Jahre Zuchthaus.
C.- Mit eidgenössischer Nichtigkeitsbeschwerde vom 31. Januar 2000 beantragt H. dem Bundesgericht, das Urteil des Obergerichts des Kantons Aargau vom 22. September 1999 aufzuheben und die Sache zur Entscheidung an die kantonale Vorinstanz zurückzuweisen.
Das Obergericht des Kantons Aargau verzichtete unter Hinweis auf die Ausführungen im angefochtenen Urteil auf Gegenbemerkungen.
D.- Eine gegen dasselbe Urteil gerichtete staatsrechtliche Beschwerde von H. wies das Bundesgericht mit Urteil vom heutigen Tag ab, soweit es darauf eintrat.

Das Bundesgericht zieht in Erwägung:
1.- Dem angefochtenen Urteil liegt der folgende, für das Bundesgericht verbindlich festgestellte (Art. 277bis BStP) Tatablauf zu Grunde:
Ungefähr 4 Wochen vor dem Tötungsdelikt reifte im Beschwerdeführer der Entschluss, seine Familie und sich selber umzubringen. Dies deshalb, weil er u.a. gestützt auf ein gescheitertes EDV-Projekt den finanziellen Ruin auf sich und seine Familie zukommen sah. Bereits damals war sich der Beschwerdeführer im klaren, dass er für die geplante Tötung seine Dienstwaffe verwenden würde.
Den definitiven Entscheid, seine Familie und sich zu töten, fasste der Beschwerdeführer schliesslich am 13.06.1996, da er sich in finanzieller Hinsicht nun vollends in die Enge getrieben gesehen hatte (Fälligwerden von Hypothekarkrediten, Eintreffen von neuen Forderungen in Form von Zahlungsbefehlen, eröffnete Pfändung usw.).
Am 14.06.1996, um ca. 07.15 Uhr, erschoss der Beschwerdeführer planmässig seine noch schlafende Ehefrau im Ehebett, indem er einen ersten gezielten Schuss gegen ihre linke Schläfe abfeuerte. Unmittelbar nach dem ersten Schuss feuerte er auch noch einen zweiten Schuss gegen seine Ehefrau ab, um sicher zu sein, dass sie nicht mehr lebte.
Nach der Exekutierung seiner Ehefrau S.
begab sich der Beschwerdeführer alsdann mit der unterdessen eingesteckten Waffe in das Zimmer seines Sohnes P. (der älteste Sohn, T. , hatte das Haus bereits um ca. 06.45 Uhr verlassen), um auch diesen wie geplant im Schlaf zu erschiessen. Da P. aber bereits wach im Bett lag, setzte der Beschwerdeführer sein Vorhaben vorerst noch nicht in die Tat um.
Als P. gegen 08.10 Uhr aus seinem Zimmer trat, lotste der Beschwerdeführer seinen Sohn unter dem Vorwand, Rückenprobleme zu haben und ab dem Wandgestell im Luftschutzkeller eine schwere Schachtel zu benötigen, in den Keller. Als sich P. dort auf einen Hocker stellte, um seinem Vater das Gewünschte ab dem Wandgestell zu reichen, versetzte der Beschwerdeführer diesem von hinten einen gezielten Schuss aus kurzer Distanz in den Hinterkopf. Einen zweiten Schuss gab er in die ihm zugewandte Schläfe seines Sohnes ab.
Bis zur Heimkehr von T. um ca. 19.00 Uhr, verbrachte der Beschwerdeführer alsdann die Zeit damit, die verschiedenen Tatorte im Hause aufzuräumen und zu säubern, weiter die beiden Leichen unter die Sitzbank der neben dem Luftschutzkeller gelegenen Sauna zu schleppen. Der Beschwerdeführer hatte den beiden Leichen vorgängig noch mehrlagige Druckverbände an den Köpfen angelegt, um ein Ausbluten der Körper zu verhindern.
In der Nacht vom 16.06.1996 wollte der Beschwerdeführer dann seinen zweiten Sohn, T. , töten. Aufgrund diverser Lügen seitens des Beschwerdeführers war T. bezüglich der Abwesenheit seines Bruders und seiner Mutter bis zu diesem Zeitpunkt noch nicht stutzig geworden.
Um ca. 04.00 Uhr schlich der Beschwerdeführer mit der Waffe in der rechten Hosentasche und einer Taschenlampe in der Hand vom ehelichen Schlafzimmer in das Zimmer seines Sohnes. Da sich T. aber in wachem Zustand befand, liess der Beschwerdeführer von seinem Vorhaben ab.
Gegen 08.00 Uhr verliess der Beschwerdeführer das Haus, um seinen Sohn T. aus der Ferne über das zu Hause Vorgefallene in Kenntnis zu setzen und um sich im Anschluss daran angeblich irgendwo mit seiner Dienstwaffe das Leben zu nehmen.
Um 14.30 Uhr stellte sich der Beschwerdeführer aber nach mehreren Telefongesprächen mit seinem Sohn T. , dann auch mit Personen aus der Strafverfolgung, den Strafbehörden (Bezirksamt Baden) und legte ein erstes Geständnis ab.
2.- a) Der Beschwerdeführer rügt zunächst eine Verletzung von <ref-law>. Diese erblickt er darin, dass die Vorinstanz ihn wegen mehrfacher vollendeter und versuchter vorsätzlicher Tötung und nicht wegen Totschlags schuldig gesprochen habe.
b) Gemäss <ref-law> macht sich des Totschlags schuldig, wer in einer nach den Umständen entschuldbaren heftigen Gemütsbewegung oder unter grosser seelischer Belastung tötet.
Sowohl die Vorinstanz als auch der Beschwerdeführer gehen davon aus, dass der Beschwerdeführer die ihm zur Last gelegten Tötungsdelikte nicht in einer heftigen Gemütsbewegung, sondern unter grosser seelischer Belastung begangen habe. Der Beschwerdeführer rügt denn auch nur, die Vorinstanz habe Bundesrecht verletzt, indem sie die Frage der Entschuldbarkeit der grossen seelischen Belastung, unter welcher er handelte, verneint habe. Er beanstandet insbesondere, die Vorinstanz habe die bundesgerichtliche Praxis zum asthenischen Affekt ohne Einschränkung auf den "vorliegend zu beurteilenden sthenischen Affekt" angewendet.
c) Der Beschwerdeführer verwechselt zunächst die zwei durch <ref-law> erfassten Formen des Affekts.
Denn mit der heftigen Gemütsbewegung (die hier nicht zur Diskussion steht) ist der sthenische Affekt gemeint, während sich die grosse seelische Belastung (um die es hier geht) auf den asthenischen Affekt bezieht!
d) Während der frühere <ref-law> einzig den Täter privilegierte, der in einer akuten Konfliktsituation in einer einfühlbaren, heftigen Gemütsbewegung sich dazu hinreissen liess, einen anderen Menschen zu töten, berücksichtigt die geltende Bestimmung auch andere Situationen, in denen die zu einer Tötung führende Gemütslage in vergleichbarer Weise als entschuldbar angesehen werden kann. Erfasst werden sollen chronische seelische Zustände, die lange Zeit geschwelt haben, bis der Täter völlig verzweifelt und keinen anderen Ausweg als die Tötung mehr sieht (<ref-ruling> E. 2a); massgebend ist dabei die Schwere und Unausweichlichkeit des Konflikts, in dem sich der Täter befindet.
Als Beispiele für möglicherweise entschuldbare grosse seelische Belastungen können nach der bundesgerichtlichen Rechtsprechung etwa angeführt werden:
- der alternde Vater oder die alternde Mutter, die ihr invalides Kind töten, weil sie befürchten, es würde nach ihrem Tod nicht genügend für das Kind gesorgt;- die Mutter, die ihr unheilbares Kind tötet, weil sie dessen Leiden nicht mehr mitansehen kann und überhaupt die ganze damit verbundene Situation nicht mehr erträgt;- die Witwe, die sich in der Situation völliger Mittellosigkeit mit ihrem Kind ins Wasser wirft;- die Tötung vor dem Hintergrund völlig zerrütteter Familienverhältnisse; - die Mutter, die es wegen Pflichtvergessenheit ihres Gatten in ihrer Ehe nicht mehr aushält und ihre Kinder aus Liebe mit in den Tod nehmen will;- der fehlgeschlagene erweiterte Selbstmord;- der Freund, der seine psychisch kranke Freundin nach deren missglücktem Suizidversuch aus Mitleid tötet;- die Tötung eines neugeborenen Kindes durch den Geliebten der Mutter, weil dieser eine untragbare Belastung der Mutter durch die uneheliche Mutterschaft befürchtet.
In allen diesen Fällen ist die für den Täter bestehende Situation derart, dass der sich ihm durch die Tötung eröffnete Ausweg als einfühlbar erscheint (unveröffentlichtes Urteil des Bundesgerichts vom 14. Dezember 1992 i.S. Staatsanwaltschaft des Kantons Basel-Landschaft gegen R. E. 4a). Auch Stefan Trechsel nennt den Fall des Mitnahmeselbstmordes als möglichen Anwendungsfall (Kurzkommentar StGB, a.a.O., N 4).
e) Auch in den Fällen des asthenischen Affekts muss die zumeist während längerer Dauer entstandene seelische Belastung entschuldbar sein (<ref-ruling> E. 2).
Die Frage der Entschuldbarkeit der grossen seelischen Belastung - und nicht etwa jene der Tat - ist indessen nicht notwendigerweise nach denselben Kriterien zu entscheiden, die im Falle der heftigen Gemütsbewegung gelten. Bei der dabei nach objektiven ethischen Grundsätzen vorzunehmenden Wertung der gesamten Situation ist aber auch in diesem Fall zu verlangen, dass der Täter die Umstände, die zu seiner grossen seelischen Belastung geführt haben, nicht vorwiegend selber zu verantworten hat; denn die Anwendung von <ref-law> ist dramatischen Situationen vorbehalten, deren Ursachen sich zur Hauptsache dem Willen des Täters entziehen und die ihn damit in eine Lage bringen, die eine gewisse Analogie zu derjenigen bei der Nötigung oder beim Notstand aufweist (Bernard Corboz, Les principales infractions, Berne 1997, <ref-law>, N 20 ff.).
Nach der bundesgerichtlichen Rechtsprechung setzt der Begriff der Entschuldbarkeit voraus, dass die grosse seelische Belastung nicht nur psychologisch erklärbar, sondern bei objektiver Bewertung nach den sie auslösenden Umständen gerechtfertigt erscheint (<ref-ruling> E. 2a: "... que son état ait été rendu excusable par les circonstances"). Denn regelmässig liegt die Entschuldbarkeit der grossen seelischen Belastung im Verhalten des Opfers, eines Dritten oder in den objektiven äusseren Umständen (Corboz, a.a.O. N 23; <ref-ruling> E. 2a, S. 237). Dabei ist auch bei der Entschuldbarkeit der grossen seelischen Belastung davon auszugehen, wie sich ein vernünftiger Mensch unter denselben äusseren Umständen verhalten hätte und ob dieser aus diesen Gründen ebenfalls nicht mehr in der Lage gewesen wäre, die Situation richtig einzuschätzen und sie zu meistern (<ref-ruling> E. 2b). Massstab bildet dabei der (rechtlich gesinnte) Durchschnittsmensch; individuelle Besonderheiten wie ausgeprägte Erregbarkeit oder übertriebenes Ehrgefühl sind hier unbeachtlich (<ref-ruling>; Corboz, a.a.O. N 20; Trechsel, a.a.O., Art. 113 N 12).
Die Vorinstanz hat diese Grundsätze in den beanstandeten Erörterungen zum Tatbestand des Totschlages grundsätzlich zutreffend erörtert (angefochtenes Urteil E. 2b); es kann darauf verwiesen werden. Der Beschwerdeführer führt denn auch nicht aus, welche anderen Kriterien für die Beurteilung der Entschuldbarkeit hätten herangezogen werden müssen. Davon, dass bei der Prüfung der Frage der Entschuldbarkeit der grossen seelischen Belastung von der subjektiven Wahrnehmung des Täters auszugehen sei, kann nicht die Rede sein, denn auch diese Prüfung hat nach dem oben Ausgeführten nach objektiven Gesichtspunkten zu erfolgen.
f) Die Vorinstanz hielt in diesem Zusammenhang fest, im Beschwerdeführer sei offenbar über Wochen der Entschluss gereift, seine ganze Familie umzubringen, um von ihr die drohende gesellschaftliche Schmach als Folge einer vermeintlichen Zahlungsunfähigkeit fernzuhalten.
Diese wirtschaftliche Ausweglosigkeit habe sich wegen des bevorstehenden Scheiterns des vom Beschwerdeführer initiierten Informatikprojektes ergeben, dem er sich während rund zwei Jahren mit praktisch vollem Arbeitspensum gewidmet habe, ohne dafür entschädigt worden zu sein oder eine namhafte Vergütung noch erwarten zu können.
Am Tag vor der Tatbegehung sei ihm von der Betreibungsbeamtin der Pfändungsvollzug für eine Gesamtforderung von rund Fr. 20'000.-- angekündigt worden. Auf Ende Juni 1996 seien ihm von der SKA Zürich der Hypothekarkredit von Fr. 400'000.-- und von der SKA Baden der Vorfinanzierungskredit von Fr. 200'000.-- gekündigt worden.
Es bestünden keine Hinweise darauf, dass diese Situation vom Beschwerdeführer zu verantworten war oder hätte vermieden werden können. Objektiv sei davon auszugehen, dass die Drucksituation sich weniger ausweglos darstellte, als sie vom Beschwerdeführer beurteilt worden sei und von ihm aufgrund seines Wissensstandes und seiner intellektuellen Fähigkeiten zu beurteilen gewesen wäre.
Die Erfolgsaussichten eines Zivilprozesses gegen die Softwarefirma seien nie seriös abgeklärt worden. Die in der Berufung geltend gemachte Kontaktaufnahme mit einem Anwalt habe zu keinen konkreten rechtlichen Interventionen geführt. Der Beschwerdeführer habe sich auf sein Projekt fixiert, ohne andere Erwerbsmöglichkeiten wie namentlich einen Ausbau oder die Wiederaufnahme seiner Lehrtätigkeit an der HWV Olten ernstlich in Erwägung gezogen zu haben. Es sei auch ein Zahlungseingang der Elektrizitätswerke Obwalden in der Höhe von Fr. 29'000.-- zu erwarten gewesen. Vor allem aber habe er die Einkommens- und Vermögensverhältnisse seiner Ehefrau mit einem inventarisierten Aktivvermögen von Fr. 180'000.-- in Form von Sparkapital und Wertschriften, einer Erbanwartschaft und einem Nettolohn in den Jahren 1995 und 1996 für ein 80%-Pensum als Direktionssekretärin von Fr. 64'455.-- bzw. Fr. 107'131.-- bei seiner Lageanalyse völlig ausser Acht gelassen und es unterlassen, sie über das vollständige Ausmass der ohne Zweifel äusserst problematischen Situation umfassend zu orientieren. Sein diesbezüglicher Einwand, über die Verhältnisse nicht im Bild gewesen zu sein, da seit längerem keine Steuererklärung mehr abgegeben worden sei, erweise sich als nicht stichhaltig, da er weder behauptet habe noch Anhaltspunkte dafür bestünden, dass seine Ehefrau ihm je eine entsprechende Auskunft verweigert hätte. Die unterlassene Orientierung erscheine wegen der Labilität der psychischen Verfassung der Ehefrau zwar verständlich, zumal verschiedene ihr nahestehende Personen sie als selbstunsichere und melancholische Persönlichkeit beschrieben hätten, die an sich und ihre Umgebung hohe Leistungserwartungen gestellt habe. Sowohl der Sohn T. als auch Pfarrer D. und Frau I.
hätten bei ihr im Zuge der familiären Probleme eklatante Wesensveränderungen beobachtet, und es erscheine unter diesen Umständen verständlich, dass der Beschwerdeführer Mühe bekundet habe, sie ins Vertrauen zu ziehen. Dennoch aber erscheine seine persönliche Beurteilung der psychischen Verfassung seiner Ehefrau aufgrund der verschiedenen Beobachtungen der nächsten Angehörigen (worunter auch der der ihr nahestehenden Schwester) und der behandelnden Ärzte voreilig, selbst wenn es zu Episoden verbaler Äusserungen von Suizidabsichten gekommen sein sollte. Es sei auch nicht verständlich, weshalb er seine finanzielle Situation nie mit seinen erwachsenen Söhnen besprochen habe. Weitere Schritte zur Konfliktbewältigung hätten sich jedenfalls aufgedrängt, bevor bei objektiver Betrachtungsweise der äusseren Umstände von einer Ausweglosigkeit die Rede hätte sein können. So seien etwa Kontakte zu anderen Bankinstituten oder weiteren Vertrauenspersonen, auch zur Gesprächsvermittlung zwischen den Ehepartnern, oder aber die Konsultation von Finanzfachleuten über Sanierungsmöglichkeiten ohne weiteres denkbar und auch naheliegend gewesen. Noch am 12. Juni 1996 habe er die Raiffeisenbank N. _ aufgesucht, um ein Konto zu eröffnen, ohne sich gleichzeitig um einen Kredit zu bemühen. Statt dessen habe er sich auf die denkbar extremste Problemlösungsvariante fixiert, ohne sich über die finanzielle Situation auch nur einigermassen Überblick zu verschaffen, sodass er anlässlich der Einvernahme zur Person keine Angaben über die Lohnhöhe seiner Ehefrau habe machen können, was er auch vor Obergericht bestätigt habe. Diese Fixierung sei nur mit seinen diagnostizierten akzentuierten Persönlichkeitszügen mit hohem Anspruchsniveau und Fassadenhaltung erklärbar, die als individuelle Persönlichkeitsmerkmale für die Tatbestandsqualifikation ausser Acht bleiben müssten. Dasselbe gelte in besonderem Mass auch für die beiden Söhne P. und T. , deren Mitnahme in den Suizid aufgrund ihres Alters und ihrer überdurchschnittlichen Begabung mit vielfältig denkbaren Entwicklungsmöglichkeiten auch unter schwierigen wirtschaftlichen Voraussetzungen nicht zu rechtfertigen sei. Die Individualität der Ausnahmesituation akzentuiere sich auch mit Bezug auf die Beschreibung der Auseinandersetzung über die Ausbildung von T.
bei der Polizei des Kantons Zürich, bei welcher es sich um eine offensichtlich alltägliche Problemstellung gehandelt habe, die mit verschiedenen denkbaren Lösungsstrategien zu bewältigen gewesen wäre. Zusammenfassend erscheine bei objektiver Betrachtungsweise die grosse seelische Belastung, in der sich der Beschwerdeführer subjektiv zweifellos befunden habe, nicht entschuldbar.
Daran ändere nichts, dass die Tat des Beschwerdeführers im psychiatrischen Gutachten als Mitnahmesuizid eingestuft worden sei, denn die ihr zugrundeliegende seelische Belastung beruhe auf einer Fehleinschätzung der bei objektiver Betrachtungsweise schwierigen, aber noch nicht ausweglosen äusseren Umstände.
Diese Auffassung verletzt Bundesrecht nicht, denn die durch die Vorinstanz dargelegte Verschuldungs- und Familien-Situation ist nicht selten und stellt in der Regel noch keinen derart schweren und unausweichlichen Konflikt dar, dass der sich dem Beschwerdeführer durch die Tötung eröffnete Ausweg angesichts seiner Ausnahmesituation als einfühlbar erscheinen würde. Jedenfalls kann nicht gesagt werden, ein anderer vernünftiger Mensch wäre in einer solchen Situation ebenfalls in einen Affekt geraten.
Im Übrigen scheint der Beschwerdeführer - wie etwa aus seiner Begründung der staatsrechtlichen Beschwerde geschlossen werden kann - zu verkennen, dass im deutschen (anders als im schweizerischen) Recht, auf welches er sich bezieht, der Grundtatbestand der vorsätzlichen Tötung als Totschlag bezeichnet wird.
3.- a) Der Beschwerdeführer rügt sodann, die Vorinstanz habe die ausgefällte Strafe ungenügend begründet, weshalb das angefochtene Urteil gemäss Art. 277 BStP aufzuheben sei. Insbesondere würden einzelne wesentliche Elemente der Strafzumessung nicht erörtert.
b) Das Bundesgericht stellt in seiner neueren Rechtsprechung höhere Anforderungen an die Begründung der Strafzumessung durch den Sachrichter und greift häufiger in die Strafzumessung ein als früher. Der Sachrichter hat im Urteil die wesentlichen schuldrelevanten Tat- und Täterkomponenten so zu erörtern, dass festgestellt werden kann, ob alle rechtlich massgebenden Gesichtspunkte berücksichtigt und wie sie gewichtet wurden.
Entsprechendes gilt für die im Gesetz genannten Strafschärfungs- und Strafmilderungsgründe. Die blosse Auflistung einiger Strafzumessungsfaktoren mit der anschliessenden Bemerkung, unter diesen Umständen sei die ausgefällte Strafe angemessen, reicht nicht aus. Der Sachrichter muss die Überlegungen, die er bei der Bemessung der Strafe angestellt hat, in seinem Urteil in den Grundzügen darstellen. Er muss die Strafzumessung so gut wie möglich nachvollziehbar machen. Dann ist es auch möglich zu prüfen, ob er sich von zutreffenden oder unzutreffenden Gesichtspunkten leiten liess und ob er sich bei der Gewichtung der relevanten Faktoren im Rahmen seines weiten Ermessens hielt. Besonders hohe Anforderungen an die Begründung der Strafzumessung werden unter anderem dann gestellt, wenn die ausgesprochene Strafe ungewöhnlich bzw. auffallend hoch oder auffallend milde ist. Der Richter ist, unter Vorbehalt gewisser Ausnahmen aber nicht verpflichtet, im Urteil in absoluten Zahlen oder in Prozenten anzugeben, inwieweit er bestimmte strafzumessungsrelevante Tatsachen straferhöhend oder strafmindernd berücksichtigt hat. Er muss von Bundesrechts wegen auch nicht etwa eine "Einsatzstrafe" beziffern, die er bei Fehlen bestimmter Strafschärfungs- und Strafmilderungsgründe sowie anderer gewichtiger Faktoren ausgefällt hätte. Zwar können derartige Angaben im Urteil die Begründung (und damit auch die Überprüfung) der Strafzumessung erleichtern, da sich aus ihnen ergeben kann, weshalb z.B. eine auf den ersten Blick auffallend hohe oder milde Strafe ausgesprochen worden ist. Doch ist der Richter bundesrechtlich nicht verpflichtet, sich bei den einzelnen Teilschritten der Urteilsbegründung auf bestimmte Zahlenangaben festzulegen.
Es kommt insoweit allein darauf an, dass die gefundene Strafe insgesamt, d.h. unter gesamthafter Berücksichtigung aller massgeblichen Strafzumessungsgesichtspunkte, im Ergebnis bundesrechtlich vertretbar ist. Dies bedeutet insbesondere auch, dass die Erwägungen zur Strafzumessung die ausgefällte Strafe rechtfertigen müssen. Das Strafmass muss mit anderen Worten plausibel erscheinen. Der Kassationshof greift ein, wenn die ausgefällte Strafe angesichts der im Urteil festgestellten strafzumessungsrelevanten Tatsachen und der diese bewertenden Erwägungen der Vorinstanz als auffallend hoch oder milde erscheint, wenn also zwischen der Strafe und ihrer Begründung offensichtlich eine Diskrepanz besteht.
Liegt eine solche Diskrepanz vor, so ist entweder die Strafe im Ergebnis unvertretbar oder aber ihre Begründung im Urteil mangelhaft bzw. unvollständig. Ob diese oder jene Alternative vorliege, ist oft nicht zweifelsfrei erkennbar. Daher wird der Kassationshof bei auffallender Diskrepanz zwischen dem Strafmass und seiner Begründung die Sache in der Regel lediglich zur neuen Entscheidung an die Vorinstanz zurückweisen, ohne diese ausdrücklich anzuweisen, dass sie eine andere Strafe ausfälle. Denn es ist nicht ausgeschlossen, dass der Sachrichter bei der Strafzumessung auch Kriterien berücksichtigt hat, die in der Urteilsbegründung nicht ausdrücklich erwähnt oder missverständlich beschrieben bzw. gewichtet worden sind und bei deren Berücksichtigung die ausgefällte Strafe im Ergebnis als bundesrechtskonform erscheint (<ref-ruling> E. 2a).
c) Soweit der Beschwerdeführer rügt, die Vorinstanz habe die von ihm gezeigte Reue als Täterkomponente nicht berücksichtigt, ist ihm entgegenzuhalten, dass die Vorinstanz die Reue bei ihren allgemeinen Erwägungen zur Strafzumessung erwähnt, hingegen in tatsächlicher Hinsicht nicht feststellt, der Beschwerdeführer habe Reue gezeigt. Sie war somit bei der Strafzumessung auch nicht zu berücksichtigen. Die Rüge hätte in der staatsrechtlichen Beschwerde vorgetragen werden müssen, was nicht geschehen ist.
d) Weiter beanstandet der Beschwerdeführer, die Vorinstanz habe die Beweggründe des Täters sowie dessen Willensrichtung bei der Tatausführung zu wenig gewichtet.
Was er in diesem Zusammenhang vorträgt, ist nicht geeignet, eine Bundesrechtsverletzung aufzuzeigen. Denn die Vorinstanz erläutert, wenn auch sehr knapp, die wesentlichen Strafzumessungskomponenten; da sie sich offensichtlich weitgehend auf die Begründung der Strafzumessung durch das Bezirksgericht Baden stützt, durfte sie sich auf die ausdrückliche Darstellung jener Elemente beschränken, bei denen sie von der Bewertung durch das Bezirksgericht abwich. Insbesondere ist nicht erforderlich, bei jedem Strafzumessungselement anzugeben, um wieviel die Strafe dadurch erhöht bzw. gemindert wird, denn es ist eine Gesamtbetrachtung der Strafzumessung vorzunehmen.
e) Der Beschwerdeführer rügt schliesslich, die Vorinstanz habe zu Unrecht <ref-law> nicht angewandt.
Bei den Sachverhalten, auf die sich <ref-law> bezieht, handelt es sich um Grenzfälle, in denen meist schon ein ursprüngliches Rechtsgefühl sagt, dass eine Strafverfolgung völlig verfehlt wäre (BBl 1985 II 1019). Nach der bundesgerichtlichen Rechtsprechung ist diese Bestimmung verletzt, wenn sie in einem Fall nicht angewendet wird, wo ein leichtes Verschulden sehr schwere direkte Folgen für den Täter nach sich zieht (<ref-ruling> E. 2d). Voraussetzung ist das Entfallen eines Strafbedürfnisses, indem das Verschulden des Täters durch die ihn treffenden gravierenden Folgen seiner Tat als ausgeglichen erscheint (<ref-ruling> E. 1a). Je schwerer und strafwürdiger die Tat wiegt, desto schwerer müssen die Tatfolgen für den Täter sein, um eine Strafe als unangemessen erscheinen zu lassen. Die Anwendung der Bestimmung bei Vorsatztaten kommt deshalb in erster Linie in Frage, wenn diese zu schwersten Körperverletzungen des Täters selber geführt haben. In Fällen wie hier hingegen, wo es um die psychische (seelische) Betroffenheit des Täters durch die von ihm verschuldeten Tötungen ihm nahestehender Personen geht, dürfen diese in der Regel nur fahrlässig verursacht sein, was etwa bei Verkehrsunfällen oder gemeingefährlichen Delikten (<ref-law>) vorstellbar ist; bei vorsätzlichen Verbrechen hingegen ist eine Strafe höchst selten unangemessen, auch wenn sich beim Täter im nachhinein Reue und Betroffenheit einstellen; Ausnahmen stellen Verzweiflungstaten dar, wie der Mitnahmeselbstmord der Mutter, bei welchem schliesslich der Selbstmord scheitert, das in den Tod mitgenommene Kind hingegen stirbt, oder der gemeinsam geplante Selbstmord zweier Menschen, der schliesslich für den einen fehlschlägt (BBl 1985 II 1018 f.; vgl. auch <ref-ruling> E. 2e).
Mit diesen Beispielen ist der vorliegende Fall indessen in keiner Weise zu vergleichen, da hier von einem Scheitern oder Fehlschlagen des Selbstmordes keine Rede sein kann; von einem solchen kann erst gesprochen werden, wenn der Täter zur Selbsttötung zumindest angesetzt hat, was hier noch gar nicht der Fall war. Die Anwendung von <ref-law> ist deshalb im vorliegenden Fall von vornherein ausgeschlossen, unabhängig von der Frage, ob der Beschwerdeführer neben altruistischen untergeordnet auch aus egoistischen Motiven gehandelt habe und ob die Mitgenommenen Erwachsene und damit in der Lage waren, ihr Leben selber zu gestalten und zu meistern. Letzteres bezieht sich zudem auf den Anwendungsfall des gescheiterten Selbstmordes der Mutter, deren Kind stirbt; in diesem Fall ist wesentlich, dass das Kind auf Grund seines Alters noch nicht selber in der Lage ist, einen Entscheid über ein Weiterleben zu treffen, und die Mutter ihr Kind nicht hilflos zurücklassen will. In diesem Sinn verweist die Vorinstanz zu Recht auf den Umstand, dass im vorliegenden Fall die Opfer Erwachsene und damit nicht hilflos waren. Mit der Nichtanwendung von <ref-law> hat die Vorinstanz das ihr in diesem Zusammenhang zustehende weite Ermessen nicht überschritten. Eine Verletzung von Bundesrecht liegt nicht vor.
4.- a) Der Beschwerdeführer wendet sich sodann gegen die Strafzumessung. Insbesondere sei seine schwergradig verminderte Zurechnungsfähigkeit offensichtlich zu wenig gewichtet worden.
Der Beschwerdeführer verweist zur Begründung auf verschiedene Fälle von Tötungsdelikten, in welchen die Täter bei leichter bis schwer verminderter Zurechnungsfähigkeit zu Strafen von vier Monaten Gefängnis bis acht Jahren Zuchthaus verurteilt worden seien; bei schwer verminderter Zurechnungsfähigkeit im Durchschnitt zu rund fünf Jahren Zuchthaus. In einem Fall eines versuchten Mitnahmesuizids sei eine Freiheitsstrafe von zweiundzwanzig Monaten ausgesprochen worden. In zwei deutschen Fachpublikationen seien bei erweitertem Suizid Freiheitsstrafen zwischen acht Monaten und einem Jahr ausgesprochen worden.
Soweit der Beschwerdeführer in diesem Zusammenhang das konkrete Strafmass beanstandet, geht er vom Strafrahmen des Totschlages aus. Er erachtet eine Einsatzstrafe von zwei Jahren als angemessen; diese sei infolge der Tatmehrheit um ein Jahr zu erhöhen.
b) Der Vergleich mit anderen Urteilen - unbesehen, ob es sich dabei um vergleichbare Fälle handelt - ist von vornherein unbehelflich. Denn die Strafverfolgung obliegt grundsätzlich, mit Ausnahme der Verfolgung der in <ref-law> aufgeführten strafbaren Handlungen, den Kantonen (<ref-law>, <ref-law>). Der Grundsatz der Gleichbehandlung erlangt daher auf interkantonaler Ebene ohnehin nur beschränkte Bedeutung (<ref-ruling> E. 2c). Der Grundsatz der Individualisierung und der dem Sachrichter vom Gesetz bei der Strafzumessung eingeräumte weite Ermessensspielraum führen vielmehr notwendigerweise zu einer gewissen, vom Gesetzgeber in Kauf genommenen Ungleichheit. Unterschiedliche Gewichtungen der massgebenden Faktoren sind zudem Folge der Unabhängigkeit des Richters, der weiten Strafrahmen, der freien Beweiswürdigung sowie des erheblichen Ermessens des Sachrichters. In dieser Hinsicht ist zu beachten, dass selbst gleich oder ähnlich gelagerte Fälle sich durchwegs massgeblich in zumessungsrelevanten Punkten unterscheiden. Die aus diesen Umständen resultierende Ungleichheit in der Zumessung der Strafe reicht für sich allein nicht aus, um auf einen Missbrauch des Ermessens zu schliessen. Es ist nicht Sache des Bundesgerichts, für eine peinlich genaue Übereinstimmung einzelner Strafmasse zu sorgen. Es hat lediglich für eine korrekte Anwendung von Bundesrecht besorgt zu sein. Soweit die Strafe innerhalb des gesetzlichen Strafrahmens, gestützt auf alle wesentlichen Gesichtspunkte und im Rahmen des richterlichen Ermessens festgesetzt wurde, sind Unterschiede in der Strafzumessungspraxis innerhalb dieser Grenzen hinzunehmen (eingehend <ref-ruling> E. 2a, mit Hinweisen)
c) In ihren Erwägungen zur eigentlichen Strafzumessung hat sich die Vorinstanz - offensichtlich von der Begründung des erstinstanzlichen Urteils ausgehend - mit den wesentlichen schuldrelevanten Komponenten auseinander gesetzt und die massgebenden Zumessungsgründe zutreffend gewürdigt. Dass sie dabei von rechtlich nicht massgeblichen Gesichtspunkten ausgegangen wäre oder wesentliche Gesichtspunkte nicht berücksichtigt hätte, ist nicht ersichtlich.
Die Vorinstanzen gingen richtigerweise von einem Strafrahmen von fünf bis zwanzig Jahren Zuchthaus aus; die Mindeststrafe reduziere sich wegen der gutachtlich ausgewiesenen schwer verminderten Zurechnungsfähigkeit auf drei Tage Gefängnis.
Das Bezirksgericht beurteilte das Verschulden des Beschwerdeführers als ausserordentlich gravierend; der Unrechtsgehalt der Tat, das Ausmass des herbeigeführten deliktischen Erfolges, das Auslöschen zweier Menschenleben, mithin das höchste Rechtsgut als Ausgangspunkt für die Bemessung der Sanktion, sei sehr schwerwiegend; er habe fast die ganze Familie zerstört und insbesondere die hoffnungsvolle Zukunft des Sohnes P. vernichtet. Die Vorinstanz erachtete, dass das Bezirksgericht der Tatschwere zu Recht gravierende Bedeutung zugemessen habe, denn der Beschwerdeführer habe sich angemasst, über das Leben seiner ganzen Familie zu entscheiden und sei bei bei der Tatausführung planmässig vorgegangen. Diese Tatkomponente werde allerdings relativiert durch die Motivation, mit dieser Tat seine Familie vor Schande und Enttäuschung zu bewahren.
Mit Bezug auf die Täterkomponente sei das unbelastete Vorleben des Beschwerdeführers, seine ausdauernde Wahrnehmung öffentlicher und privater Verantwortung und die Offenheit seines Aussageverhaltens im Strafverfahren strafmindernd zu berücksichtigen. Die Vorinstanz stimmte damit offensichtlich mit den entsprechenden ausführlichen Erwägungen des Bezirksgerichts betreffend Vorleben, persönliche Verhältnisse und das Verhalten nach der Tat und im Strafverfahren, auf die verwiesen werden kann, überein. Die Strafempfindlichkeit, die das Bezirksgericht angesichts des Alters des Beschwerdeführers eher als überdurchschnittlich bezeichnete, könne indessen nach Auffassung der Vorinstanz nicht als überdurchschnittlich eingestuft werden. Auch in der Frage der Strafmilderung gemäss <ref-law> stimmte die Vorinstanz mit dem Bezirksgericht überein. Abweichend vom Bezirksgericht berücksichtigte die Vorinstanz die schwere Betroffenheit des Beschwerdeführers und seine schwere Bedrängnis strafmindernd und stufte diese höher ein, als dies das Bezirksgericht tat, welches das Vorhandensein eines Mitnahmesuizides verneint habe und dem Beschwerdeführer keine altruistischen Motive zugebilligt habe. Gesamthaft gewichtete die Vorinstanz auch die Strafschärfungs- und Straferhöhungsgründe entgegen dem Bezirksgericht nicht schwerer als die Strafmilderungs- und Strafminderungsgründe.
Die Vorinstanz erachtete zusammenfassend unter Berücksichtigung von zwei zusätzlichen Strafminderungsgründen (schwere Betroffenheit und schwere Bedrängnis) eine Zuchthausstrafe von zehn Jahren als angemessen.
e) Unter Berücksichtigung der massgeblichen Strafzumessungsfaktoren erscheint die von der Vorinstanz vorgenommene Strafzumessung insgesamt als bundesrechtskonform.
In Würdigung aller Umstände liegt die ausgefällte Freiheitsstrafe durchaus im Rahmen des der Vorinstanz zustehenden weiten Ermessens. Die Erwägungen der Vorinstanz sind ohne weiteres einleuchtend und das Strafmass erscheint als nachvollziehbar. Jedenfalls hat sie ihr Ermessen nicht überschritten und erscheint die ausgesprochene Strafe nicht als unhaltbar hart. Davon, dass das angefochtene Urteil den Begründungsanforderungen an die Strafzumessung nicht genügen würde, kann nicht die Rede sein. Es liegt auch kein Fall vor, in welchem besonders hohe Anforderungen an die Begründung der Strafzumessung zu stellen wäre, denn die für die vorsätzliche Tötung von zwei Menschen mit einer versuchten weiteren vorsätzlichen Tötung ausgesprochene Freiheitsstrafe von zehn Jahren Zuchthaus ist - auch unter Berücksichtigung der in schwerem Grad verminderten Zurechnungsfähigkeit - weder ungewöhnlich noch auffallend hoch (vgl. <ref-ruling> E. 2a,aa). Die Beschwerde erweist sich somit als unbegründet.
5.- a) Aus diesen Gründen ist die Beschwerde abzuweisen.
b) Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung. Dieses Gesuch kann gutgeheissen werden, wenn die Partei bedürftig ist und ihr Rechtsbegehren nicht aussichtslos erscheint (Art. 152 OG). Zwar kann davon ausgegangen werden, dass der sich im Strafvollzug befindende Beschwerdeführer bedürftig ist. Demgegenüber muss die Beschwerde als zum Vornherein aussichtslos bezeichnet werden. Denn weder hinsichtlich der rechtlichen Qualifikation der in Frage stehenden Vorgänge, noch der Begründungsdichte des Urteils oder der Strafzumessungsfaktoren bestand Aussicht auf Erfolg. Folglich kann die unentgeltliche Rechtspflege und Verbeiständung nicht bewilligt werden.
Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen. Seiner finanziellen Lage ist durch eine herabgesetzte Gerichtsgebühr Rechnung zu tragen.

Demnach erkennt das Bundesgericht:
1.- Die eidgenössische Nichtigkeitsbeschwerde wird abgewiesen.
2.- Das Gesuch um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung wird abgewiesen.
3.- Die Gerichtsgebühr von Fr. 800.-- wird dem Beschwerdeführer auferlegt.
4.- Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft und dem Obergericht, 1. Strafkammer, des Kantons Aargau schriftlich mitgeteilt.
_
Lausanne, 22. August 2000
Im Namen des Kassationshofes
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: